Sam Altman alerta sobre riscos e pede confiança na IA
Sam Altman alerta sobre riscos e pede confiança na IA. O CEO da OpenAI afirmou, em conferência da Salesforce realizada em San Francisco na terça-feira (15/9), que o mundo deve temer os perigos da inteligência artificial, mas confiar nas empresas do setor para conduzir o desenvolvimento de forma responsável.
Empresas querem autorregulação
Altman declarou que companhias como a OpenAI “farão a coisa certa” porque reconhecem a dimensão do impacto da tecnologia. Ele acredita que o alinhamento ético e a segurança seguirão “muito à frente das capacidades” dos sistemas de IA e, se necessário, o setor “desacelerará ou parará” novos lançamentos.
As colocações ocorreram dias após pesquisas internas da Anthropic viralizarem ao sugerir cenários catastróficos caso a evolução da IA não seja contida. Dario Amodei, CEO da Anthropic, defendeu a redução do ritmo de inovação e pediu regulamentação governamental, posição que recebeu apoio público de Altman, Demis Hassabis (Google DeepMind) e Elon Musk.
Ceticismo político cresce
Nos Estados Unidos, políticos de espectros opostos reagiram. O senador Bernie Sanders criticou a concentração de decisões em “um punhado dos mais ricos do mundo”, citando Musk, Mark Zuckerberg e Jeff Bezos. Já Steve Bannon, ex-assessor de Donald Trump, declarou que “nunca se pode confiar” em oligarcas da tecnologia para impor limites à própria indústria.
Executivos como Jensen Huang, da Nvidia, discordam de nova legislação, defendendo que a segurança é “um problema de engenharia” resolvido dentro das empresas. Ainda assim, especialistas como Jack Clark, cofundador da Anthropic, alertam que deixar a IA “totalmente sem regulamentação” representa riscos imensos.
Setor busca acordo de segurança
OpenAI, Anthropic e Google DeepMind iniciaram conversas para criar padrões voluntários de segurança e verificação de modelos. A iniciativa, segundo Altman, pretende mostrar que laboratórios têm incentivos econômicos e reputacionais para evitar danos e, portanto, podem liderar boas práticas.
Imagem: Internet
Analistas lembram, porém, que a confiança pública no Vale do Silício é baixa. Como ressaltou Patrick Hillman, da Logical Intelligence, a população confia pouco tanto em Washington quanto nas gigantes de tecnologia, reforçando a necessidade de transparência nos próximos passos.
Para acompanhar mais análises sobre o impacto da IA, o portal da BBC traz reportagens aprofundadas sobre governança tecnológica.
Quer entender como a inovação afeta o seu dia a dia? Visite nossa cobertura de tecnologia e siga informado.
Crédito da imagem: Reuters
