No início de março, a OpenAI incluiu o ChatGPT na sua API. Além disso, o custo para acessar o modelo caiu 90% em relação ao preço do GPT-3. Isto significa que qualquer um pode criar soluções próprias usando este modelo extremamente poderoso, sem se preocupar com o custo proibitivo e a complexidade de treinar um modelo tão grande.
Enquanto eu estava escrevendo, a empresa anunciou o lançamento do GPT-4, ainda mais poderoso que o ChatGPT!
Com um sistema tão avançado, que consegue responder quase qualquer coisa sem precisar de nenhum tipo de conhecimento especial por parte dos usuários, é natural imaginar que o ChatGPT vai roubar o mercado de startups de IA. Afinal, se sua empresa desenvolve um chatbot, por exemplo, por que seus clientes continuariam te contratando se podem plugar a API do ChatGPT direto no site deles? Ou se você faz acompanhamento de mídias sociais, e faz uma análise de sentimento dos consumidores em relação aos produtos dos seus clientes, por que seus clientes não podem fazer o ChatGPT responder isso pra você?
Dificuldade de implementação
Eu vejo alguns motivos pra isso não ser uma ameaça (pelo menos no curto e médio prazo) para as startups que já operam neste segmento. A implementação da API do ChatGPT não é trivial. No exemplo da startup de chatbots, para usar o sistema para responder perguntas de seus clientes, o ChatGPT precisa ter acesso à documentação do seu produto e a uma base de dados de perguntas frequentes. É possível, mas complicado, passar este conhecimento como parte do prompt pra API. O mais correto seria fazer um fine-tuning do modelo para customizá-lo ao seu caso de uso. Além disso, você precisaria pensar em controles que evitem que o modelo gere respostas falsas ou ofensivas. Uma startup de IA está numa boa posição para fazer isso e entregar um produto poderoso aos seus clientes usando o ChatGPT. Algumas empresas já começaram a oferecer este serviço, como a Intercom por exemplo.
No caso da análise de sentimentos, você ainda precisa de um sistema capturando os comentários das suas redes e passando pro ChatGPT analisar. Depois precisa de uma forma de usar as respostas para fazer uma análise. Nada disso é simples. Pelo volume de dados que tem que ser analisado, esta provavelmente ainda é uma forma cara demais de fazer esta análise. Isso não quer dizer que várias empresas não estejam olhando pra este problema e tentando achar uma forma de se aproveitar dos avanços recentes dos modelos generativos. Se alguém vai fazer isso, aposto que será uma empresa que já tem experiência em usar produtos de IA.
No caso específico da Beaver, nós lemos matrículas imobiliárias (entre outros documentos) e extraímos mais de 50 campos diferentes. Cada matrícula é única, então as perguntas que deveriam ser passadas pro modelo variam de acordo com o contexto. Usar o ChatGPT pra isso provavelmente tomaria mais tempo do que se o usuário simplesmente ler a matrícula. Nosso sistema usa uma sequência de 30 modelos diferentes para conseguir realizar bem esta tarefa. Além disso, entregamos ferramentas que facilitam muito a manipulação dos dados extraídos.
Oportunidades
Os modelos generativos ainda são recentes e as empresas ainda estão descobrindo como usá-los. Certamente muitos produtos novos ainda vão surgir se aproveitando deles. Enquanto isso, posso imaginar muitas formas como as empresas de IA podem se beneficiar do ChatGPT e similares. Já mencionei acima o uso em chatbots melhores para atendimento a clientes e um produto de análise de sentimento. A própria OpenAI investiu recentemente em uma série de startups que estão usando seus produtos para entregar soluções inovadoras. É um momento excelente para as empresas de IA!
Na Beaver, a primeira tarefa que demos pro ChatGPT foi a de ser “professor” de alguns de nossos modelos. A parte mais cara e demorada do treino dos modelos de IA é que precisamos de um volume grande de dados analisados e classificados por especialistas. Apesar do ChatGPT não conseguir uma acurácia tão boa quanto a nossa, para algumas informações específicas o modelo é bom o suficiente para podermos usar suas respostas nos nossos treinos (depois de passar por um processo de validação pelo nosso time de analistas, claro).
Por outro lado, o GPT pode ser usado de forma eficiente para outros tipos de tarefas, por empresas de tecnologia ou não. A capacidade de gerar textos originais pode ser usada, por exemplo, para criar a documentação do seu produto ou preparar o texto do seu site ou de posts para as redes sociais. Os modelos de linguagem podem até ser usados para traduzir seu produto para outras línguas, facilitando a globalização da sua empresa. Estes são benefícios que qualquer empresa pode usufruir com certa facilidade.
Certamente muitas boas ideias ainda surgirão nos próximos meses!
Rogério Bromfman, especialista em IA e machine learning, CTO e co-fundador da Beaver
Comments