Em meio a discussões sobre Segurança de inteligência artificialum Abrir anunciado na terça -feira (26) novas medidas para melhorar o Chatgpt Em situações delicadas, como quando os usuários mostram intenção suicida. O anúncio ocorre após um processo movido pelos pais de Adam Raine16 -Year -Od que morreu por suicídio, culpando o chatbot pelo episódio.
Em um comunicado publicado em seu blog, o Openai reafirmou seu compromisso com melhorias contínuas. “Continuaremos a melhorar, guiados por especialistas e com base na responsabilidade de pessoas que usam nossas ferramentas”, disse a empresa, acrescentando que espera que outras organizações também colaborem na proteção dos usuários em momentos de vulnerabilidade.
Leia também:
As empresas de almíscar processam a Apple e o Openai por esquema anti -específico
ChatGPT-5: Expectativas, frustrações e quais mudanças no uso de IA
Sam Altman, do Openai, diz que subestima o avanço da China em inteligência artificial
Limitações e respostas reconhecidas do OpenAI
De acordo com um relatório de NBC Newsa família Raine afirmou no processo que o Chatgpt “ajudou ativamente Adam a explorar métodos de suicídio”. Apesar disso, o Abrir não mencionou o caso ou o processo em sua nota pública.
A empresa, no entanto, reconheceu as limitações do sistema: embora o chatgpt seja treinado para estimular a busca de ajuda, pode acabar oferecendo Respostas inadequadas em interações estendidasem desacordo com seus parâmetros de segurança.
Para enfrentar esses riscos, o OpenAI disse que funciona em uma atualização do GPT-5Assim, Lançado recentementePara reduzir o tom das conversas de risco. Além disso, estuda os mecanismos para conectar os usuários a terapeutas certificados Antes de ocorrer uma crise aguda.
Entre as propostas avaliadas estão a criação de um Rede de profissionais licenciados acessíveis pela própria plataforma e a possibilidade de envolver familiares e amigos íntimos.
A empresa também anunciou planos de lançar ferramentas Controle dos paispermitindo que os responsáveis sigam como adolescentes acessarem e usar o ChatGPT.
O advogado Jay EdelsonO representante de Raine, disse à CNBC que o OpenAI não procurou os pais para fornecer condolências ou discutir melhorias de segurança. “Se você vai usar a tecnologia de consumidor mais poderosa do planeta, precisa confiar que os fundadores têm senso moral. Essa é a dúvida sobre o Openai agora: como alguém pode confiar neles?” Ele perguntou.
Casos e desafios recentes para a regulamentação
Casos semelhantes aos de Adam Raine têm alertas acendidos. No início de agosto, o escritor Laura Reiley relatado New York Times que sua filha de 29 anos morreu de suicídio depois de falar sobre o assunto com o Chatgpt. Em outro episódio, na Flórida, Sewell Setzer III14, também morreu após interagir com um Inteligência artificial Chatbot.
O avanço do uso de Fui ao apoio emocional e companhia intensificou perguntas sobre riscos e regulamentação. No entanto, estabelecer regras claras para o setor ainda é um desafio.
Na segunda-feira (25), uma coalizão de empresas e investidores-incluindo o presidente do Openai, Greg Brockman – anunciou a criação do movimento Liderando o futurovoltou a se opor a políticas que podem Limitar a inovação em inteligência artificial.
__
Onde assistir o maior canal de negócios do mundo no Brasil:
Canal 562 CLAROTV+ | Canal 562 céu | Canal 592 Vivo | Canal 187 Oi | Operadores regionais
Sinal aberto da TV: canal parabólico 562
Online: www.timesbrasil.com.br | YouTube
Canais rápidos: Samsung TV Plus, Canais LG, Canais TCL, Plutão TV, Roku, Soul TV, Zapping | Novo streaming
A seguir, Times Brasil – CNBC licenciado exclusivo em
Este conteúdo foi fornecido por CNBC International e a responsabilidade exclusiva pela tradução portuguesa é do Times Brasil.
