Reguladores alertados sobre falta de testes de segurança da OpenAI em seus modelos de IA, gerando preocupações sobre riscos trabalhistas.
Tudo sobre Inteligência Artificial ver mais Tudo sobre OpenAI ver mais O Senado americano exigiu em uma carta que a OpenAI entregasse dados sobre seus esforços para construir inteligência artificial segura.
Em um mundo cada vez mais conectado, a IA desempenha um papel fundamental na evolução tecnológica. A inteligência artificial da OpenAI está na vanguarda da inovação, buscando constantemente maneiras de aprimorar a interação entre humanos e máquinas. Com a crescente demanda por soluções inteligentes, a inteligência artificial da OpenAI se destaca como uma referência no setor.
OpenAI: Preocupações dos Políticos Americanos Sobre Segurança de IA
As preocupações dos políticos americanos surgiram após alerta dos funcionários de que a empresa apressou os testes de segurança de seu mais recente modelo de IA. Informações do Washington Post revelaram que cinco legisladores pediram ao CEO da OpenAI, Sam Altman, que esclarecesse como a startup planeja cumprir ‘compromissos públicos’ para garantir que sua IA não cause danos.
Os senadores também pediram à empresa informações sobre acordos trabalhistas, o que poderia ter intimidado os trabalhadores que desejassem alertar os reguladores sobre os riscos de testes de segurança mal feitos. Pessoas que denunciaram práticas perigosas da OpenAI disseram que a empresa emitiu ilegalmente indenizações restritivas, sigilo e acordos de funcionários, penalizando potencialmente os trabalhadores que desejassem levantar preocupações aos reguladores federais.
Artigos Relacionados
Em comunicado, a porta-voz da OpenAI, Hannah Wong, disse que a empresa ‘fez mudanças importantes no processo de saída de trabalhadores para remover termos não depreciativos dos acordos com funcionários’. Leia mais: O que é a Sora, a inteligência artificial da OpenAI que cria vídeos? ChatGPT: como assinar o plano pago da inteligência artificial da OpenAI Q*: o que sabemos sobre a superinteligência artificial da OpenAI? Políticos temem que tecnologia da OpenAI poderia ser usada em práticas ilícitas (Imagem: PatrickAssale / Shutterstock)
OpenAI: Segurança em Segundo Plano e Priorização do Lucro
As preocupações de que a OpenAI tem priorizado o lucro ao invés da segurança não são novas. Questionamentos dessa natureza já ocorrem desde quando a startup teria apressado o lançamento do seu mais recente modelo de IA, GPT-4 Omni, para cumprir a data de lançamento em maio. Os líderes da empresa avançaram com o lançamento, apesar das preocupações dos funcionários sobre o prazo, e aceleraram testes de segurança abrangentes, minando o compromisso de segurança feito em julho de 2023 com a Casa Branca.
‘Dada a posição da OpenAI como empresa líder em IA, é importante que o público possa confiar na segurança de seus sistemas’, escreveram os senadores na carta em que demandam esclarecimentos sobre segurança. Os democratas do Senado pediram à OpenAI que responda até 13 de agosto, incluindo uma documentação sobre como planeja cumprir o seu compromisso voluntário com a administração Biden de proteger o público de abusos de IA generativa. Sam Altman vai precisar convencer senadores que o ChatGPT é seguro (Imagem: photosince/Shutterstock)
Fonte: @Olhar Digital
Comentários sobre este artigo