Ex-funcionário de gigante da IA faz alerta sobre corrida tecnológica: “tentativa e erro acabou”
Audiência em Nova York reuniu representantes e ex-integrantes de empresas como OpenAI, Anthropic, Google e Meta para discutir os riscos do avanço acelerado da inteligência artificial.
SIDNEY SOUZA1 min de leitura2 dias
O avanço acelerado da inteligência artificial voltou a provocar preocupação. Durante uma audiência realizada em Nova York, especialistas e representantes das principais empresas do setor discutiram riscos envolvendo sistemas cada vez mais avançados e a necessidade de maior fiscalização.
A velocidade com que empresas de tecnologia estão desenvolvendo sistemas de inteligência artificial voltou ao centro do debate depois de uma audiência realizada pelo Conselho Municipal de Nova York.
PublicidadePortal Tbt
Representantes e ex-integrantes de algumas das maiores empresas do setor, incluindo OpenAI, Anthropic, Google e Meta, foram questionados sobre os possíveis riscos relacionados ao desenvolvimento de sistemas cada vez mais poderosos. UOL
Um dos depoimentos que chamou atenção foi o de Jacob Coxon, ex-engenheiro da Anthropic. Ele criticou a ideia tradicional do setor de tecnologia de lançar produtos rapidamente e corrigir eventuais problemas posteriormente.
Segundo Coxon, essa lógica pode não ser adequada quando aplicada a sistemas avançados de inteligência artificial. O ex-funcionário também levantou preocupação com a possibilidade de perda de controle sobre sistemas futuros. UOL
Durante a audiência, representantes das empresas defenderam os benefícios proporcionados pela tecnologia e falaram sobre os investimentos realizados em segurança.
O assunto, porém, provocou questionamentos dos integrantes do Conselho sobre até que ponto as próprias companhias responsáveis pelo desenvolvimento da tecnologia devem ser responsáveis também por determinar seus limites.
A presidente do Conselho Municipal, Julie Menin, defendeu maior participação do poder público na fiscalização e argumentou que depender exclusivamente da autorregulação das empresas pode não ser suficiente. UOL
O debate acontece justamente em um momento de forte competição entre as grandes empresas de tecnologia.
Somente em setembro, OpenAI e Anthropic lançaram, juntas, oito modelos em um período de 29 dias, segundo levantamento publicado pela Exame. Empresas também avançam no desenvolvimento de agentes de IA capazes de realizar tarefas de maneira cada vez mais autônoma. Exame
A discussão agora ultrapassa a questão de qual empresa conseguirá desenvolver a inteligência artificial mais avançada.
Governos, pesquisadores e empresas começam a enfrentar uma questão muito maior: até onde essa corrida pode avançar sem criar riscos difíceis de controlar?
