Pesquisadores de inteligência artificial acusam CBS e Google de exagerar na divulgação de tecnologia de AI

Pesquisadores de inteligência artificial criticaram a rede de televisão CBS e a Google por exagerar a tecnologia de AI em uma entrevista de alto perfil do CEO da Google, Sundar Pichai, no programa 60 Minutes, no último domingo.

Durante o segmento, o correspondente Scott Pelley afirmou que um programa de AI criado pela Google havia aprendido uma linguagem que nunca havia visto antes por si só, e Pichai se referiu à tecnologia de AI como uma “caixa preta” que nem mesmo as pessoas que trabalham na área entendem completamente.

Em um vídeo apresentado no programa, um programa de AI criado pela Google chamado PaLM, que alimenta o chatbot de AI da empresa, Bard, foi capaz de responder perguntas em bengali, uma língua falada em Bangladesh e na Índia, apesar de alegadamente nunca ter sido treinado nessa língua.

Pesquisadores de IA criticaram a afirmação, dizendo que o programa foi treinado em bengali, conforme descrito em um artigo publicado pelos próprios pesquisadores da Google.

Margaret Mitchell, pesquisadora e ética da startup de IA Hugging Face, que antes co-liderou a equipe de ética de IA da Google, apontou que o PaLM foi treinado em bengali, e que a afirmação de que o programa aprendeu a língua sozinho é exagerada.

Emily M. Bender, professora e pesquisadora da Universidade de Washington, criticou a afirmação de que o programa poderia traduzir “todo o bengali”, chamando-a de uma “afirmação não comprovada”.

Os pesquisadores destacaram as preocupações com a divulgação exagerada da tecnologia de AI, que pode levar a uma regulação inadequada e a um deslocamento da responsabilidade para as próprias máquinas de AI.

Em vez disso, eles pedem que as empresas de tecnologia considerem as necessidades e experiências das pessoas impactadas pela tecnologia.