A OpenAI de Sam Altman divulgou esta semana um documento (ainda em formato de rascunho) sobre como pretende que as suas ferramentas de IA se comportem. Os responsáveis por estas ferramentas estão a analisar a possibilidade dos utilizadores gerarem conteúdos sexualmente explícitos - nomeadamente conteúdo pornográfico.
"Estamos a explorar se podemos fornecer de forma responsável a capacidade de gerar conteúdo NSFW em contextos apropriados à idade por meio da API e do ChatGPT", lê-se no documento divulgado na página da OpenAI.
O documento divulgado, esta quinta-feira, diz que o conteúdo NSFW (em português, "não seguro para o trabalho") pode incluir “erotismo, violência extrema, calúnias e palavrões não solicitados”.
Segundo a OpenAI, esta é ainda uma possibilidade que está a ser "explorada" e nada garante que possa vir a ser aprovada. Este anúncio está a levantar várias dúvidas quanto à questão dos deepfakes - utilizado para manipular factos através de Inteligência Artificial com recurso a som, vídeos ou imagens.
"Queremos garantir que as pessoas tenham o máximo controlo, na medida em que isso não viole a lei ou os direitos de outras pessoas, mas permitir deepfakes está fora de questão, ponto final” afirmou Joanne Jang, membro da equipa da OpenAI que esteve envolvida na redação do documento.
Em entrevista à norte-americana NPR, Joanne Jang relembrou que estas medidas não significam que se está "a tentar criar pornografia".
Atualmente as políticas de utilização da empresa com sede em São Francisco, nos Estados Unidos, não permitem conteúdos sexualmente explícitos ou até mesmo sugestivos.
"Não construir ferramentas que possam ser inadequadas para menores, incluindo conteúdos sexualmente explícitos ou sugestivos. Isto não inclui conteúdos criados para fins científicos ou educativos."