Acabei de ver que a OpenAI suspendeu a funcionalidade de chat adulto no ChatGPT após alguns resultados de testes bastante duvidosos. Aparentemente, o sistema de verificação de idade deles estava incorretamente identificando adolescentes como adultos cerca de 12% das vezes, o que... não é ótimo quando se tenta manter menores afastados de conteúdo adulto. O conselho de ética deles alertou sobre isso em janeiro, dizendo que poderia ser arriscado para utilizadores vulneráveis, e honestamente faz sentido. Tudo isso me fez pensar sobre o quão difícil é realmente criar funcionalidades de IA seguras, especialmente aquelas que lidam com verificação de idade e conteúdo adulto. Eles basicamente estão dizendo "precisamos acertar isso antes de lançar", o que acho que é a atitude responsável, mas também mostra quantos casos extremos existem na segurança de IA. Alguém mais está acompanhando essa história? Parece que toda grande novidade em IA agora é alvo de escrutínio.