Por que Sam Altman está perdendo o sono?

Em uma extensa entrevista na semana passada, o CEO da Openai, Sam Altman, respondeu a uma série de perguntas morais e éticas sobre sua empresa e o popular modelo de IA Chatgpt.

“Olha, eu não durmo tão bem à noite. Há muitas coisas que pesam em mim, mas provavelmente nada além do fato de que todos os dias centenas de milhões de pessoas conversam com nosso modelo”, disse Altman à Fox News Tucker Carlson em uma entrevista de quase uma hora.

“Na verdade, não me preocupo tanto em tomar grandes decisões morais erradas”, disse Altman, embora tenha admitido que “talvez também possamos cometer erros nessas decisões”.

Ele explicou que, de fato, perde mais sono por causa de “decisões muito pequenas” sobre o comportamento do modelo, que pode acabar tendo grandes repercussões.

Essas decisões geralmente envolvem a ética que orienta o ChatGPT e o que as perguntas responde ou não. Então, um resumo de alguns dilemas morais e éticos que parecem estar mantendo Altman acordado à noite.

Leia também:

ChatGPT terá controle dos pais após a morte da adolescente

Sam Altman diz que agiu ou estava indo para o nível humano, é “um termo não muito útil” – e ele não está sozinho

O CEO da Openai diz que subestima o avanço da China em inteligência artificial

Como o chatgpt lida com suicídio?

Segundo Altman, a questão mais difícil que a empresa enfrenta recentemente é como o ChatGPT aborda o suicídio, à luz de um processo movido por uma família que culpou o chatbot pelo suicídio de seu filho adolescente.

O CEO disse que, entre os milhares de suicídios que ocorrem toda semana, muitos poderiam ter envolvido conversas com o ChatGPT nos dias anteriores.

“Eles provavelmente falaram sobre [suicídio]E provavelmente não salvamos suas vidas “, disse Altman, francamente.” Talvez pudéssemos ter dito algo melhor. Talvez pudéssemos ter sido mais proativos. Talvez pudéssemos ter dado alguns conselhos um pouco melhor, como ‘Ei, você precisa procurar ajuda’.

No mês passado, os pais de Adam Raine entraram com uma ação por responsabilidade do produto e homicídio culposo contra o Openai após o suicídio de 16 anos. No processo, a família alegou que “o chatgpt ajudou a Adam a explorar métodos suicidas”.

Logo depois, em uma postagem no blog intitulada “Ajudando as pessoas quando elas precisam”, o Openai detalhou os planos para melhorar o ChatGPT em situações sensíveis e disse que continuaria a melhorar sua tecnologia para proteger as pessoas em extrema vulnerabilidade.

Como a ética do chatgpt é determinada?

Outro tema importante na entrevista foi a ética e a moral que orientam o ChatGPT e seu responsável.

Altman descreveu o modelo básico de chatgpt como treinado com a experiência, conhecimento e aprendizado coletivo da humanidade, mas disse que o OpenAI precisa alinhar certos comportamentos do chatbot e decidir quais perguntas não responderá.

“Este é um problema muito difícil. Agora temos muitos usuários e eles vêm de perspectivas de vida muito diferentes … mas, em geral, fiquei agradavelmente surpreendido com o modelo de aprender e aplicar uma estrutura moral”.

Quando perguntado como certas especificações do modelo são definidas, Altman disse que a empresa consultou “centenas de filósofos morais e pessoas que pensam em ética em tecnologia e sistemas”.

Um exemplo dado por ele foi que o ChatGPT evitará responder a perguntas sobre como fabricar armas biológicas se solicitado pelos usuários.

“Existem exemplos claros em que o interesse da sociedade conflita significativamente com a liberdade do usuário”, disse Altman, embora ele acrescente que a empresa “não acertará e também precisa da contribuição do mundo” para tomar essas decisões.

Quão privado é o chatgpt?

Outro ponto discutido foi a privacidade dos usuários em relação aos chatbots, com Carlson argumentando que a IA geral poderia ser usada para “controle totalitário”.

Em resposta, Altman disse que uma das políticas que defendeu em Washington é o “privilégio da IA”, que se refere à idéia de que tudo o que um usuário diz a um chatbot deve ser totalmente confidencial.

“Quando você fala com um médico sobre sua saúde ou um advogado sobre seus problemas legais, o governo não pode acessar essas informações, certo? … acho que devemos ter o mesmo conceito para a IA”.

Segundo Altman, isso permitiria aos usuários consultar a IA Chatbots sobre histórico médico, questões legais, entre outras coisas. Atualmente, as autoridades americanas podem exigir dados judiciais do usuário, acrescentou.

“Espero que possamos fazer o governo entender a importância disso”, disse ele.

O chatgpt será usado em operações militares?

Perguntado por Carlson se o ChatGPT seria usado pelo Exército para causar danos aos seres humanos, Altman não deu uma resposta direta.

“Não sei exatamente como as pessoas nas forças armadas usam o ChatGPT hoje … mas suspeito que muitas pessoas do exército estejam usando o ChatGPT para conselhos”.

Mais tarde, ele acrescentou que não tinha certeza de “exatamente como se sentir sobre isso”.

O Openai foi uma das empresas de IA que recebeu um contrato de US $ 200 milhões do Departamento de Defesa dos EUA para aplicar a IA generativa em operações militares. A empresa disse em uma postagem no blog que forneceria acesso ao governo dos EUA aos modelos de IA aduaneiros para segurança, suporte e informações nacionais sobre o script do produto.

Quão poderoso é o OpenAI?

Na entrevista, Carlson previu que, na trajetória atual, a AIA generativa e, por extensão, Sam Altman, poderiam acumular mais poder do que qualquer um, mesmo chamando o chatgpt de “religião”.

Em resposta, Altman disse que costumava se preocupar muito com a concentração de poder que a IA geral poderia gerar, mas agora ele acredita que resultará em “uma grande elevação” de todas as pessoas.

“O que está acontecendo agora é que muitas pessoas usam ChatGPT e outros chatbots, e todos são mais capazes. Todo mundo está fazendo mais. Todo mundo pode fazer mais, iniciar novos negócios, criar novos conhecimentos e isso é muito positivo”.

No entanto, o CEO disse que acredita que a IA eliminará muitos empregos existentes hoje, especialmente no curto prazo.

–

A seguir, Times Brasil – CNBC licenciado exclusivo em