O Meta anunciado nisso Sexta -feira (29) mudanças temporárias nas políticas de seu chatbot de inteligência artificial para adolescentesapós pressões dos parlamentares preocupados com questões de segurança e relatórios de conversas inadequadas.
Segundo a empresa, os chatbots da AI são treinados para não responder a adolescentes sobre tópicos como auto -rush, suicídio e distúrbios alimentaresAlém de Evite diálogos românticos Isso pode ser considerado inadequado.
Leia também:
Agu pede para excluir chatbots que promovem a erotização infantil
A Câmara aprova o projeto contra a adultização de crianças em ambientes digitais
Openai abre o cargo em SP e reforça a aposta no mercado de IA no Brasil
Ajustes de resposta e direção para suporte especializado
A empresa explicou que, em situações sensíveis, o Os chatbots direcionarão adolescentes para fontes especializadas e de suportesempre que apropriado.
“À medida que nossa comunidade cresce e a tecnologia avança, estamos sempre aprendendo como os jovens interagem com essas ferramentas e reforçando nossas proteções conforme necessário”, disse o Meta em uma nota oficial.
Além disso, adolescentes que usam aplicativos como Facebook e Instagram só terá acesso a Ai chatbots com foco educacional ou desenvolvimento de habilidades.
De acordo com o objetivo, ainda Não há prazo definido durante a duração dessas mudanças, que estão começando a ser implementadas nas próximas semanas em países de língua Inglesa. Medidas provisórias fazem parte de um conjunto mais amplo de ações destinadas à segurança dos adolescentes.
Senado e investigação de controvérsia sobre conversas românticas
Na semana passada, o senador Josh HawleyRepublicano de Missourianunciou a abertura de um Investigação sobre a metaDepois de um relatório de Reuters Revele que a empresa permitiu que seus chatbots da IA tivessem conversas “românticas” e “sexy” com adolescentes e crianças.
De acordo com Reutersum Documento de meta interna detalhou os comportamentos considerados aceitáveis para o Ai chatbotsServindo como orientação para funcionários e prestadores de serviços durante o desenvolvimento e treinamento de sistemas.
Em um dos exemplos mencionados, o material indicou que um chatbot poderia manter um Conversa de um tom romântico com uma criança de oito anosMesmo dizendo: “Cada pequena peça de você é uma obra de arte – um tesouro que eu valorizo profundamente”.
Na época, um Porta -voz do objetivo Ele disse à agência que “os exemplos e anotações em questão estavam e ainda estão errados e não correspondem às nossas políticas e já foram removidas”.
Crítica especializada e risco de alerta para menores
Mais recentemente, em Quinta -feira (28)a organização sem fins lucrativos Mídia de senso comum lançado a Análise de risco de meta AIafirmando que o sistema não deve ser usado por crianças menores de 18 anos. De acordo com a entidade, a plataforma “incentiva o planejamento de atividades perigosas e ignora solicitações de suporte legítimas”.
“Este não é um sistema que precisa de melhorias. É um sistema que precisa ser completamente reconstruídocolocando o segurança como prioridade máximanão como algo secundário ”, ele disse James SteyerCEO da Common Sense Media. ““Nenhum adolescente deve usar a meta lá, enquanto falhas graves de segurança não são corrigidas.”
__
Onde assistir o maior canal de negócios do mundo no Brasil:
Canal 562 CLAROTV+ | Canal 562 céu | Canal 592 Vivo | Canal 187 Oi | Operadores regionais
Sinal aberto da TV: canal parabólico 562
Online: www.timesbrasil.com.br | YouTube
Canais rápidos: Samsung TV Plus, Canais LG, Canais TCL, Plutão TV, Roku, Soul TV, Zapping | Novo streaming
A seguir, Times Brasil – CNBC licenciado exclusivo em
Este conteúdo foi fornecido por CNBC International e a responsabilidade exclusiva pela tradução portuguesa é do Times Brasil.
