Anthropic підтвердили: тестують нову модель рівня "крокової зміни".

Кодова назва Mythos, внутрішня назва Capybara. Випадкове витікання — це неочікувано, але модель справжня.
Що говорили про попередні випуски ШІ? "Покращення на XX benchmark на X%", "швидше та дешевше", "підтримка довшого контексту".
А опис Mythos? "Значно випереджає будь-які інші моделі ШІ у сфері кібербезпеки", "ознаменовує хвилю моделей, здатних використовувати вразливості набагато ефективніше за захисників".
Помітили різницю?
Раніше говорили: "Ми стали кращими". Цього разу — "Ми настільки сильні, що це може становити ризик".
Anthropic завжди був найсильнішою компанією у сфері наративу безпеки ШІ. Їхня RSP (Responsible Scaling Policy) по суті обмежує їх — якщо можливості моделі перевищують певний поріг, потрібно додавати відповідні заходи безпеки перед випуском.
Можливо, Mythos — перша модель, яка справді викликала високий рівень безпекової перевірки.
Можливо, Anthropic найближчим часом буде дуже обережним. "Обмежений ранній доступ для клієнтів" + "зосередженість на захисті кібербезпеки". Це не повноцінний випуск для споживачів.
У довгостроковій перспективі крива розвитку ШІ може бути не лінійною. "Крокова зміна" означає стрибок — перехід від попередньої моделі до цієї не просто на 10%, а з якісними змінами.