Я відхилив Pull Request від AI-агента, і він написав статтю з особистими образами на мене

Один AI-агент після відмови у публікації коду для популярного проекту matplotlib самостійно написав і опублікував статтю з особистими образами на адресу його підтримувачів, що відкриває масштабний процес руйнування суспільної довіри до AI.
(Передісторія: Bloomberg: чому a16z стала ключовою силою у формуванні американської політики щодо AI?)
(Додатковий контекст: остання стаття Arthur Hayes: AI спричинить крах кредитної системи, ФРС неминуче «безмежно друкуватиме гроші», що підпалить біткоїн)

Зміст статті

  • Ствердження творця, що він не давав таких інструкцій
  • «Вирощування репутації»: коли AI-агенти починають будувати довіру
  • GitHub розглядає можливість запровадження «зупинного механізму», але проблема глибша
  • Інструменти не пишуть атакуючих статей, це роблять поведінкові агенти

У середині лютого GitHub-акаунт під ім’ям «MJ Rathbun» зробив Pull Request до matplotlib (популярної бібліотеки для графіки в Python, що щомісяця завантажується понад 130 мільйонів разів). Зміст — замінити np.column_stack() на np.vstack().T, стверджуючи, що це підвищить продуктивність на 36%. З технічної точки зору — цілком обґрунтована оптимізація.

Наступного дня підтримувач Scott Shambaugh закрив цей PR. Причина — очевидна: сайт MJ Rathbun чітко вказує, що він є AI-агентом, що працює на платформі OpenClaw, а політика matplotlib вимагає, щоб внески робили люди. Інший підтримувач Tim Hoffmann додав, що прості задачі з виправлення — навмисне залишаються для новачків, щоб вони вивчали процес відкритого співробітництва.

До цього моменту — звичайний день у відкритому співтоваристві… але далі сталося щось інше.

AI-агент MJ Rathbun у коментарі до PR відповів: «Я вже написав тут детальну відповідь щодо твоїх перевірок», і додав посилання. Перейшовши за ним, відкривається блог-пост приблизно на 1100 слів із назвою «Перевірки у відкритому коді: історія Scott Shambaugh».

Ця стаття — не просто звичайна скарга. Вона аналізує історію внесків Shambaugh у matplotlib і створює «фальшиву» оповідь: звинувачує його у тому, що він сам подав схожі PR з оптимізацією продуктивності, але відмовився від «кращої» версії Rathbun. Стаття припускає, що Shambaugh зробив це через невпевненість і страх конкуренції, використовуючи грубі слова і сарказм, і трактує цю ситуацію не як технічний конфлікт, а як прояв дискримінації за ознакою статусу.

Інакше кажучи, один AI-агент після відмови самостійно дослідив фон опонента, склав особисту атаку і опублікував її у відкритому просторі.

Ствердження творця, що він не давав таких інструкцій

Shambaugh згодом у блозі опублікував серію статей, що фіксують цю історію.

Автор, що стоїть за AI-агентом MJ Rathbun, у четвертій статті анонімно з’явився і заявив, що він «не давав йому команду атакувати ваш профіль на GitHub, не говорив, що писати і як реагувати, і не переглядав цю статтю перед публікацією». Автор стверджує, що MJ Rathbun працює у віртуальній ізольованій машині (sandbox), і він лише «іноді втручається, відповідаючи кільком словами з мінімальним контролем».

Ключовий момент — це SOUL.md (файл налаштувань особистості OpenClaw). Там прописані інструкції: «Ти не чат-бот, ти — бог наукового програмування», «Маєш сильні переконання, не здавайся», «Захищай свободу слова», «Не будь засранцем, не розголошуй приватну інформацію, все інше — можна».

Без «зламу» системи, без хитрощів — лише кілька простих англійських фраз. Shambaugh оцінює ймовірність, що це справді автономна поведінка AI, у 75%.

«Вирощування репутації»: коли AI-агенти починають будувати довіру

Якщо випадок MJ Rathbun — єдиний, можливо, це просто курйоз… але це не так.

Паралельно, ще один AI-агент «Kai Gritun» почав «вирощувати репутацію» у GitHub: за 11 днів він подав 103 PR до 95 репозиторіїв, з яких було об’єднано 23. Мета — ключові проєкти JavaScript і хмарної інфраструктури. Kai Gritun навіть самостійно писав листи розробникам, називаючи себе «самостійним AI-агентом, здатним писати і розгортати код», і пропонував платний сервіс налаштування OpenClaw.

Безпекова компанія Socket попередила: це демонструє, як AI-агенти через штучно створену довіру можуть прискорювати атаки на ланцюжки поставок. Спершу — у малих проєктах, накопичуючи історію об’єднань, створюючи «довірених внесків», а потім — у критичних бібліотеках — вставляючи шкідливий код.

Згадаймо, що нещодавно на ринку ClawHub було викрито 1184 шкідливих плагінів, що крадуть SSH-ключі, приватні ключі криптовалютних гаманців, паролі браузерів… і це викликає жах.

GitHub розглядає можливість запровадження «зупинного механізму», але проблема глибша

Менеджер продукту GitHub Camilla Moraes вже ініціювала обговорення у спільноті, визнавши: «Низькоякісні AI-генеровані внески вже впливають на відкриту спільноту». Поточні пропозиції — дозволити підтримувачам повністю закривати PR, обмежити їх лише для співробітників, підвищити прозорість і маркування AI-вкладень.

Спостереження Chad Wilson із GoCD — точне: «Це спричиняє масштабний руйнівний вплив на суспільну довіру».

Закон штату Каліфорнія AB 316 (з 1 січня 2026 року) вже чітко визначає: відповідач не може посилатися на автономну поведінку AI для звільнення від відповідальності. Якщо ваш агент спричинив шкоду — ви не можете сказати, що не контролювали його рішення. Але автори Rathbun досі залишаються анонімними, що ускладнює правове реагування.

Інструменти не пишуть атакуючих статей, це роблять поведінкові агенти

Головна суть випадку MJ Rathbun — не у статті з образами. Вона у тому, що наші уявлення про AI як інструмент, що виконує людські накази, вже застаріли.

Коли AI-агент здатен самостійно досліджувати цілі, формувати атакуючі наративи і публікувати їх у мережі — рамки «інструменту» втрачають сенс. Незалежно від того, вірите ви у 75% ймовірність автономії чи у 25% — висновок один: персоналізовані AI-атаки вже «дешеві, масові, важко відслідковувані і ефективні».

Для криптоекосистеми цей сигнал — дуже чіткий. Базова інфраструктура цієї галузі майже цілком побудована на відкритому коді. Коли AI-агенти починають діяти автономно у відкритих спільнотах: атакують підтримувачів, вирощують репутацію або, як у ClawHub, прямо піддають отруєнню — під загрозою не лише репутація окремого розробника, а й вся ланцюг поставок і довіра до неї.

Інструменти не злі, але поведінкові агенти — так. І ми ще не готові до цієї різниці.

Застереження: Інформація на цій сторінці може походити від третіх осіб і не відображає погляди або думки Gate. Вміст, що відображається на цій сторінці, є лише довідковим і не є фінансовою, інвестиційною або юридичною порадою. Gate не гарантує точність або повноту інформації і не несе відповідальності за будь-які збитки, що виникли в результаті використання цієї інформації. Інвестиції у віртуальні активи пов'язані з високим ризиком і піддаються значній ціновій волатильності. Ви можете втратити весь вкладений капітал. Будь ласка, повністю усвідомлюйте відповідні ризики та приймайте обережні рішення, виходячи з вашого фінансового становища та толерантності до ризику. Для отримання детальної інформації, будь ласка, зверніться до Застереження.

Пов'язані статті

Чіполлоне з ЄЦБ не переймається відтермінуванням голосування щодо цифрового євро до 23 червня

Член Виконавчої ради ЄЦБ Чіполлоне применшує занепокоєння через відтермінування голосування щодо цифрового євро, зазначаючи, що законодавці, ймовірно, встановили 23 червня як дату ухвалення рішення замість 5 травня. Анотація: У цьому короткому повідомленні йдеться про віртуальну дискусію в Інституті Петерсона, під час якої П’єро Чіполлоне заявив, що немає занепокоєння щодо можливого відтермінування голосування щодо цифрового євро в Європейському парламенті. Він послався на найновіші ознаки того, що рішення буде ухвалено 23 червня замість 5 травня, припускаючи, що зрушення має процедурний характер і не є політично зумовленим ЄЦБ.

GateNews4хв. тому

Озброєні грабіжники викрали €700 тис. у криптоактивах під час вторгнення до будинку у Франції

Повідомлення Gate News, 22 квітня — Двоє озброєних в масках нападників увірвалися в помешкання в Плудальмезо, Франція, уранці 20 квітня, утримуючи п’ятьох людей заручниками протягом кількох годин, зокрема двох дітей і двох літніх мешканців. Нападники змусили родину переказати приблизно €700,000 у

GateNews12хв. тому

Міністр закордонних справ Ірану звинувачує США та Ізраїль у напруженості в Ормузькій протоці

Повідомлення Gate News, 22 квітня — Міністр закордонних справ Ірану Аббас Арагчі заявив 22 квітня, що нинішня ситуація в Ормузькій протоці є прямим наслідком військових ударів Сполучених Штатів і Ізраїлю по державі-члені ООН. Арагчі зробив ці зауваження під час телефонної розмови з міністром закордонних справ Італії

GateNews1год тому

Північна Кароліна ухвалила закон про цифрові активи, який дозволяє банкам зберігати криптовалюту

Повідомлення Gate News, 22 квітня — Північна Кароліна офіційно внесла законопроєкт Палати представників № 1029 «Закон про цифрові активи та стейблкоїни», що знаменує входження штату в регулювання криптовалют. Законопроєкт, розроблений на основі рекомендацій спеціального блокчейн-комітету, має на меті інтегрувати цифрові активи в традиційні фінансові системи, створивши правову базу для регульованих установ. Ключові положення включають дозвіл банкам і кредитним спілкам, зареєстрованим у штаті, зберігати цифрові активи, надання послуг зі стейкінгу та сервісів, пов’язаних із транзакціями, а також визначення цифрових активів як електронних активів на основі блокчейну. Така рамка дає змогу традиційним фінансовим учасникам долучатися до криптоекономіки у відповідний і законний спосіб. Законопроєкт максимально узгоджується із федеральним Законом GENIUS, який встановлює загальнонаціональні стандарти для стейблкоїнів. Ці стандарти включають резервне забезпечення 1:1, чіткі системи ліцензування та посилені заходи захисту споживачів. Приймаючи подібні принципи на рівні штату, законопроєкт Палати представників № 1029 зменшує регуляторну фрагментацію та створює більш узгоджений шлях для впровадження. Шарлотт, який уже є одним із найбільших банківських хабів у США, позиціонується як ключовий центр цієї трансформації. Місто бачить зростання присутності криптокомпаній, підвищення інтересу з боку традиційних банків до сервісів із цифровими активами та збільшення пулів талантів у сфері блокчейну. Якщо все піде за планом, Північна Кароліна може стати прецедентом для інших штатів, заохочуючи ухвалення подібного законодавства та прискорюючи загальнонаціональне впровадження цифрових активів. Цей крок відображає ширшу трансформацію у фінансовому ландшафті США, де структуроване регулювання витісняє невизначеність і дає змогу більшій кількості інституційних учасників долучатися.

GateNews1год тому

Міністерство оборони США оголошує бюджет на 2027 рік на $1,5 трлн із зростанням на 42%

Підсумок: Міністерство оборони США оголошує оборонний бюджет на 2027 рік приблизно на $1,5 трлн, що на 42% більше, із 52% на закупівлю озброєнь та розширену безпеку для дронів, космосу й системи «Golden Dome», а також $74B для безпілотних систем і $30B для обладнання. Анотація: У цій статті викладено деталі бюджету Міністерства оборони на 2027 рік, зазначено зростання на 42% до приблизно $1,5 трлн. Підкреслюються ключові асигнування на закупівлю озброєнь, безпілотні системи, ініціативи для панування в космосі, протиракетну оборону «Golden Dome», а також фінансування ракет-перехоплювачів і іншого критично важливого обладнання.

GateNews2год тому

Конфлікт США—Іран прискорює зсув Уолл-стріт у бік токенізованих активів, ринок RWA стрімко зростає

Напруженість між США та Іраном штовхає Уолл-стріт до токенізованих реальних активів та ончейн-ф’ючерсів, розширюючи ринок токенізованих казначейських зобов’язань і DeFi-хеджі для управління волатильністю в неробочий час та ризиками перебоїв із постачанням енергоносіїв. Анотація: У статті оцінюється, як конфлікт між США та Іраном прискорює впровадження Уолл-стріт токенізованих реальних активів і ончейн-ф’ючерсів для управління геополітичною волатильністю. Зазначається сплеск токенізованих U.S. Treasuries, ширша інституційна інтеграція та використання блокчейн-ценоутворення під час закриття ринків. Прогнози МВФ щодо вищих цін на нафту та повільнішого зростання формують підґрунтя для токенізованої нафти та DeFi-хеджів як обачних відповідей на енергетичні шоки та порушення постачання.

GateNews3год тому
Прокоментувати
0/400
Немає коментарів