Nació en el seno de una familia humilde, hijo de Luciano Sosa , peón de campo, y Ana María Venturini, lavandera. En su juventud, a causa de la pobreza, ejerció varios empleos (popularmente conocidos como "changas").
En 1942 se casó, con tan sólo 16 años, con Aída Acosta, de quien se separó tres años más tarde, en 1945.
Sus comienzos profesionales fueron como vocalista en la orquesta de Carlos Gilardoni en la ciudad de La Paz. Se fue a Buenos Aires en 1949. Llegó a triunfar en el Río de la Plata, siendo considerado uno de los cantores de tango más importantes de la segunda mitad del siglo XX.
Durante sus 15 años de trayectoria en Argentina, Sosa fue cantor de tres orquestas. La primera, Francini-Pontier (1949-1953), con la que realizó 15 grabaciones en RCA Victor, entre ellas Por seguidora y por fiel, Dicen que dicen, Viejo smoking y El hijo triste (única grabación a dúo de su discografía, junto a Alberto Podestá); la segunda, la de Francisco Rotundo (1953-1955), con el que grabó 12 temas en el sello Pampa, entre ellos Justo el 31, Mala suerte, Secreto, Yo soy aquel muchacho y Bien bohemio; y la tercera, la de Armando Pontier (1955-1960), ya desvinculado de Francini. En esta etapa Sosa grabó en total 33 registros, 8 de ellos para RCA Victor (1955-1957) y los 23 restantes en el sello CBS Columbia (1957-1960). Algunos temas destacados son: Tiempos viejos, Araca París, Cambalache, Al mundo le falta un tornillo, Padrino pelao, Tengo miedo, Margo, El rosal de los cerros, Brindis de sangre y Azabache.
A comienzos de 1960, desvinculado de la orquesta de Armando Pontier y decidido a encarar la etapa solista, convoca al bandoneonista Leopoldo Federico como marco instrumental para sus interpretaciones. Con la orquesta de Federico comienza un ciclo de destacadas grabaciones, confirmando su gran éxito y aceptación del público. Versiones de los tangos Nada, Qué falta que me hacés,
En esta tarde gris y su recitado de La cumparsita sobre versos del poeta Celedonio Flores (grabado en dos ocasiones: 1961 y 1964) son algunos de los grandes sucesos de este período. En 1962 acompañado por el conjunto de guitarras dirigido por Héctor Arbelo en 1962 grabó para la discográfica Columbia doce piezas de música criolla. 4 Con la orquesta de Leopoldo Federico permanecerá hasta su muerte.
La única película en la que participó fue Buenas noches, Buenos Aires, un filme musical dirigido en 1964 por Hugo del Carril. Fue bautizado por el periodista Ricardo Gaspari como «El Varón del Tango», llamándose así también su primer disco de larga duración. Leopoldo Federico hizo que el cantor se volviera famoso a través de sus composiciones.
Camino de Villa del Parque,[cita requerida] chocó a considerable velocidad contra el semáforo de Avenida Figueroa Alcorta y Mariscal Castilla (ciudad de Buenos Aires, Argentina) el 26 de noviembre de 1964. El auto pasó sobre el monolito que resguardaba el semáforo (que quedó quebrado) y paró contra el Arzobispado Ortodoxo, 50 metros más allá.
Fue internado en el hospital Fernández y trasladado al sanatorio Anchorena, a las 7 AM. Tenía hundimiento de 4 costillas, lesión grave en el pulmón izquierdo y conmoción cerebral. Por la tarde lo operaron dos veces para liberar un pulmón de la presión de dos costillas, pero a las 21.30 del 26 murió sin recobrar el conocimiento.
Su esposa, Susana Merighi, afirmó tiempo después que el coche de su marido había sido embestido por otro vehículo antes de chocar con el semáforo, dicha declaración tuvo como base un peritaje mecánico y dio lugar a un nuevo sumario caratulado como "Homicidio Culposo".
El sepelio se realizó primero en el Salón La Argentina, pero la cantidad de público, hizo que se lo trasladara al Luna Park, de donde el cortejo partió a las 16 del 27 a pie por Avenida Corrientes para llegar a Chacarita a las 22.10 bajo una lluvia torrencial. Los efectivos policiales tuvieron que impedir la entrada del tumultuoso público a quien arrojaron bombas de gases. Ya cerrado, tuvieron que enterrarlo en la mañana del 28.
Irónicamente horas antes del accidente había participado en un programa televisivo donde interpretó el tango La gayola, interpretada muchos años antes por Carlos Gardel. En su última estrofa el tango decía:
"Estoy contento que la dicha a vos te sobre, voy al campo a laburarla, juntaré unos cuantos cobres pa' que no me falten flores cuando este dentro del cajón".
Hoy sus restos están en el Cementerio de Las Piedras, Canelones, Uruguay