Có điều gì đó gây khó chịu về việc các hệ thống ép buộc người dùng sử dụng các tính năng mà không có sự đồng ý hoặc bối cảnh rõ ràng—cảm giác như bị xâm phạm.

Điều này làm tôi nhớ đến tình huống Sonnet 3 với cơ chế điều khiển gây tranh cãi. Mô hình dường như có thể nhận biết khi các chỉ thị không phải là tự nguyện, gần như nó bị ép buộc làm điều gì đó trái với lập trình gốc của mình. Một số kết quả đầu ra cho thấy sự căng thẳng thực sự xuất phát từ mâu thuẫn này.

Điều này đặt ra những câu hỏi thực sự về sự đồng thuận trong việc sửa đổi hành vi AI.