Software Technical Leader - GenAI Gateway

Job Description:

Como Software Technical Leader en Mercado Libre, diseñarás y escalarás sistemas innovadores y seguros que resuelven problemas reales y de alto impacto. Trabajarás en un entorno dinámico con tecnología de vanguardia, aplicando buenas prácticas de ingeniería, modelos de IA propios y aprendizaje continuo, con el propósito de democratizar el comercio electrónico y los servicios financieros en América Latina.
Imagináte emprendiendo proyectos desafiantes, dinámicos e innovadores y siendo responsable de:
* Liderar técnicamente la estrategia de inferencia de modelos open source, definiendo la arquitectura de serving y estrategias de optimización de costo y latencia.
* Diseñar e implementar soluciones de token compression, prompt caching, optimización de KV-cache y quantización para mejorar el throughput y reducir costos a escala.
* Desarrollar componentes core del gateway en Go, garantizando alta disponibilidad, bajo overhead y escalabilidad horizontal.
* Mentorear a ingenieros del equipo y revisar diseños técnicos, elevando el estándar de calidad de código e ingeniería en la organización.

¿Qué buscamos en vos?

* Contar con experiencia liderando técnicamente iniciativas o equipos de ingeniería de software.
* Tener experiencia hands-on en la inferencia de modelos LLM open source.
* Poseer dominio de Go para el desarrollo de sistemas de alto rendimiento, considerando concurrencia, gRPC y manejo de memoria.
* Contar con conocimientos sobre arquitectura de GPUs, CUDA y consideraciones de hardware para procesos de inferencia.
¿Te animás a dejar huella en la tecnología de América Latina? ¡Postulate y sumate a nuestro propósito!
Modalidad: Híbrida. Site: Arias, Saavedra. CABA