TensorRT-LLM em 2026: 5 coisas após 3 meses de uso
Após 3 meses de uso do TensorRT-LLM: excelente para prototipagem rápida, frustrante para escalabilidade.
Em 2026, tive a sorte de trabalhar com o TensorRT-LLM da NVIDIA por cerca de três meses. Meu objetivo era desenvolver uma aplicação de IA conversacional para um projeto interno no trabalho, visando especificamente criar um chatbot que interage com os usuários em um