Чи перетворитися на «забутого штучним інтелектом»? Міністерство оборони США висуває останній ультиматум, Anthropic стикається з «життєвим вибором»!

За інформацією джерел, міністр оборони США Пітт Хегессе поставив генеральному директору Anthropic Дарио Амоді ультиматум: скасувати заходи безпеки на їхній моделі штучного інтелекту (ШІ) до п’ятниці або ризикувати втратити контракт із Пентагоном.

Згідно з повідомленнями, під час зустрічі у вівторок Хегессе також погрожував включити цю компанію до урядового чорного списку. Однак джерела стверджують, що атмосфера залишалася дружньою та поважною, без голосних сварок. Вони додали, що Хегессе похвалив продукти Anthropic і висловив бажання співпрацювати з компанією.

Зараз спір зосереджений на обмеженнях, які Anthropic встановила для своєї моделі Claude. За словами двох джерел, Пентагон підписав контракт на 200 мільйонів доларів із Anthropic і прагне зняти обмеження, щоб військові могли використовувати модель для «усіх законних цілей».

Однак джерела повідомляють, що Anthropic має сумніви щодо двох питань: озброєнь, керованих штучним інтелектом, та масштабного внутрішнього спостереження за громадянами США. Один із співрозмовників зазначив, що компанія вважає, що надійність ШІ недостатня для керування зброєю, і наразі відсутні законодавчі норми щодо застосування ШІ у масштабному спостереженні.

Проте, за повідомленнями, часу для роздумів у Anthropic залишилось небагато. Джерело стверджує, що якщо компанія не прийме умови вівторкової зустрічі, Пентагон планує розірвати контракт до п’ятниці.

Офіційна особа Пентагону повідомила ЗМІ, що Anthropic має визначитися до 17:01 п’ятниці: «згодитися або відмовитися». Якщо компанія не погодиться, Хегессе забезпечить застосування «Закону про виробництво оборони» для примусового використання їхньої продукції, незалежно від бажання Anthropic.

Ця ж особа додала, що Хегессе також включить Anthropic до «ризиків ланцюга постачання».

Закон про виробництво оборони (DPA) надає уряду повноваження впливати на підприємства для захисту національної безпеки; адміністрація Трампа раніше застосовувала цей закон під час пандемії COVID-19. Визнання ризиків у ланцюгу постачання заборонить компаніям із військовими контрактами використовувати продукти Anthropic у будь-яких військових проектах. Це може серйозно вплинути на цю компанію, яка намагається розширити свою присутність у корпоративному секторі, тоді як багато великих компаній мають військові контракти.

У заяві після зустрічі Anthropic зазначила: «Ми ведемо щирий діалог щодо політики використання, щоб забезпечити, що Anthropic може продовжувати підтримувати урядові завдання у сфері національної безпеки в межах надійних і відповідальних можливостей». Джерела також повідомляють, що Anthropic не планує послаблювати обмеження щодо військового застосування.

Варто зазначити, що конфлікт між Anthropic і Пентагоном може створити можливості для конкурентів. Офіційні особи підтвердили, що компанія Ілона Маска xAI «згодна працювати в конфіденційному режимі», а інші компанії «незабаром також погодяться».