top of page

O custo crescente para treinamento da IA



馃 Segundo o AI Index Report 2024 de Stanford, as empresas de IA n茫o costumam abrir os custos envolvidos no treinamento de seus modelos, mas acredita-se que eles estejam na casa dos milh玫es de d贸lares - o que tem tirado as universidades do jogo de pesquisa com os grandes modelos de IA.


O CEO da OpenAI, Sam Altman, chegou a dizer que o custo de treinamento do GPT-4 foi superior a 100 milh玫es de d贸lares.


O AI Index, segundo o pr贸prio report, foi um dos primeiros a estimar esses custos em 2023 e, este ano, se uniu ao Epoch AI, instituto de pesquisa, para aprimorar as estimativas.


A equipe do Epoch analisou a dura莽茫o do treinamento, tipo, quantidade e taxa de utiliza莽茫o de hardware de treinamento, atrav茅s de informa莽玫es de publica莽玫es, comunicados 脿 imprensa ou relat贸rios t茅cnicos relacionados aos modelos.


O infogr谩fico que trouxemos aqui mostra como o custo de treinamento estimado aumentou para os principais modelos de IA nos 煤ltimos anos. Em 2017, o Transformer, que introduziu a arquitetura de base dos LLM modernos, custava cerca de 900 d贸lares para treinar.


O treinamento do RoBERTa Large, lan莽ado em 2019, custou cerca de 160.000 d贸lares. Em 2023, os valores de treinamento para o GPT-4 da OpenAI e o Gemini Ultra do Google s茫o estimados em cerca de 78 milh玫es e 191 milh玫es de d贸lares, respectivamente - custos diretamente relacionados 脿 capacidade computacional exigida.


Fonte: extra铆do do AI Index Report 2024, Stanford







Posts recentes

Ver tudo

Comments


news.png
Receba a principal curadoria do ecossistema de inovação

Newsletter semanal e carta de análise mensal, no seu e-mail, com tudo o que você precisa saber!

bottom of page