As inteligências artificiais (IA) atingiram um limite crítico: esgotaram quase todo o conhecimento humano disponível para seu aprendizado. Elon Musk, entre outros, soa o alarme sobre esse impasse tecnológico.
Essa situação leva pesquisadores e empresas a explorar alternativas, principalmente dados sintéticos, gerados pelas próprias IAs. Embora essa solução pareça promissora, ela levanta questões importantes sobre a qualidade e a confiabilidade dos modelos futuros.
O fim dos dados humanos: um ponto de virada para a IA
Os modelos modernos de IA, como ChatGPT ou Bard, exigem quantidades astronômicas de dados para funcionar. Esses dados vêm de livros, artigos científicos, conversas online e outras fontes. No entanto, o crescimento exponencial da demanda por dados levou a uma escassez de recursos qualitativos.
Elon Musk afirmou recentemente que todo o conhecimento humano foi explorado para treinar as IAs, um marco alcançado no ano passado. É assim que chegamos a um "colapso de modelo", também conhecido como
model collapse. Essa limitação obriga os pesquisadores a repensar os métodos de aprendizado dos sistemas de inteligência artificial.
Dados sintéticos: uma solução arriscada
Os dados sintéticos, gerados por IAs, surgem como uma alternativa viável. Eles permitem reduzir custos e evitar problemas relacionados à privacidade. Por exemplo, a startup Writer reduziu em seis vezes o custo de treinamento de seu modelo Palmyra X 004 graças a esse método.
No entanto, essa abordagem apresenta riscos. As IAs treinadas com dados sintéticos podem produzir resultados incorretos, um fenômeno chamado "alucinação". Além disso, esses dados podem amplificar os vieses presentes nos modelos iniciais, comprometendo sua confiabilidade.
As consequências para o futuro da IA
O uso crescente de dados sintéticos pode levar a uma degradação na qualidade dos modelos de IA. Pesquisadores da Universidade de Stanford mostraram que modelos treinados com mais de 50% de dados artificiais cometem mais erros factuais.
Além disso, essa dependência de dados sintéticos pode limitar a criatividade das IAs. Os modelos correm o risco de ficar presos em loops, reproduzindo os mesmos padrões sem inovação. Essa situação pode obrigar as empresas a revisar suas estratégias de desenvolvimento.
Rumo a uma colaboração e regulação fortalecidas
Diante desses desafios, as empresas podem se voltar para modelos mais compactos e especializados. A colaboração entre organizações, para compartilhar dados reais, também pode se tornar essencial.
Paralelamente, serão necessários marcos regulatórios mais rígidos para orientar o uso de dados sintéticos. Essas medidas visam limitar os riscos éticos e técnicos associados a essa prática.
Autor do artigo: Cédric DEPOND
Fonte: Entrevista de Elon Musk no X