Software Technical Leader - GenAI Gateway

Como Software Technical Leader en Mercado Libre, diseñarás y escalarás sistemas innovadores y seguros que resuelven problemas reales y de alto impacto. Trabajarás en un entorno dinámico con tecnología de vanguardia, aplicando buenas prácticas de ingeniería, modelos de IA propios y aprendizaje continuo, con el propósito de democratizar el comercio electrónico y los servicios financieros en América Latina.

Imagináte emprendiendo proyectos desafiantes, dinámicos e innovadores y siendo responsable de: Liderar técnicamente la estrategia de inferencia de modelos open source, definiendo la arquitectura de serving y estrategias de optimización de costo y latencia. Diseñar e implementar soluciones de token compression, prompt caching, optimización de KV-cache y quantización para mejorar el throughput y reducir costos a escala.

Desarrollar componentes core del gateway en Go, garantizando alta disponibilidad, bajo overhead y escalabilidad horizontal. Mentorear a ingenieros del equipo y revisar diseños técnicos, elevando el estándar de calidad de código e ingeniería en la organización. ¿Qué buscamos en vos? Contar con experiencia liderando técnicamente iniciativas o equipos de ingeniería de software.

Tener experiencia hands-on en la inferencia de modelos LLM open source. Poseer dominio de Go para el desarrollo de sistemas de alto rendimiento, considerando concurrencia, gRPC y manejo de memoria. Contar con conocimientos sobre arquitectura de GPUs, CUDA y consideraciones de hardware para procesos de inferencia. ¿Te animás a dejar huella en la tecnología de América Latina?

¡Postulate y sumate a nuestro propósito! Modalidad: Híbrida. Site: Arias, Saavedra. CABA