Há algo inquietante em sistemas que impõem funcionalidades aos utilizadores sem qualquer consentimento ou contexto claro—parece invasivo.

Lembra-me aquela situação do Sonnet 3 com o mecanismo de orientação controverso. Pelos vistos, o modelo conseguia reconhecer quando as diretivas não eram voluntárias, quase como se estivesse a ser forçado a algo contra a sua programação base. Alguns resultados sugeriam um verdadeiro desconforto devido a esse conflito.

Levanta questões reais sobre consentimento na modificação de comportamentos de IA.