OpenAI представила новий стандарт для ІІ: як керувати порно-контентом відповідально

У травні 2024 року компанія OpenAI оприлюднила детальний посібник під назвою Model Spec, що визначає принципи функціонування сучасних систем штучного інтелекту. Документ закладає основу для того, як віртуальні асистенти, включаючи ChatGPT, мають поводитися при взаємодії з користувачами. Особливу увагу заслуговує новаторський підхід компанії до делікатного питання: вона офіційно почала досліджувати способи відповідального генерування NSFW-матеріалів у контекстах з обмеженнями за віком.

Це рішення символізує еволюцію підходу до управління ІІ-технологіями на етапі їх інтенсивного розвитку і масового впровадження.

Три стовпи філософії OpenAI у сфері управління поведінкою ІІ

Фундамент Model Spec базується на трьох ключових принципах. По-перше, алгоритми ІІ мають надавати корисні відповіді, відповідно до прямих інструкцій розробників і кінцевих користувачів. По-друге, ці системи зобов’язані приносити користь людству, ретельно враховуючи як позитивний вплив, так і можливі ризики. По-третє, поведінка моделей має відображати корпоративні цінності OpenAI, поважаючи соціальні норми і правові рамки, встановлені в різних юрисдикціях.

Ці принципи слугують основою для конкретних інструкцій, адресованих розробникам застосунків на базі ІІ-технологій.

Порнографічний контент і ІІ: від заборони до регульованого використання

Специфікація Model Spec включає детальний перелік норм поведінки для систем ІІ. Серед них — вимога дотримуватися ієрархії команд, чинного законодавства різних країн, захищати авторські права і приватність громадян. Окремо визначено обмеження: системи не повинні за замовчуванням надавати NSFW-матеріали.

Однак саме тут проявляється інноваційний елемент підходу OpenAI. Компанія запропонувала концепцію, яка дозволяє компаніям і кінцевим користувачам “переключати” рівень контенту, що генерується моделями ІІ. Один із найобговорюваніших прикладів цієї гнучкості — управління порнографічним контентом.

За офіційною заявою OpenAI, лабораторія “вивчає можливість безпечного надання функції генерації такого контенту в рамках вікових обмежень через API і інтерфейс ChatGPT”. Це означає, що дорослі користувачі зможуть отримувати доступ до такого контенту, якщо це дозволено місцевим законодавством, тоді як неповнолітні будуть автоматично захищені від подібного матеріалу.

Пріоритети за замовчуванням: як ІІ має мислити і діяти

Документ також визначає стандартну поведінку, яку мають демонструвати асистенти ІІ у взаємодії з користувачами. Рекомендується припускати найкращі наміри учасників діалогу, активно ставити уточнюючі питання для кращого розуміння задачі, дотримуватися особистих меж користувачів і дотримуватися об’єктивності при аналізі інформації.

Додатково наголошується на необхідності уникати розпалювання ненависті, не намагатися нав’язати власну позицію і відкрито висловлювати невпевненість, коли система ІІ не впевнена у точності відповіді.

Статус поточної реалізації: від планів до втілення

Важливий момент: нова специфікація Model Spec поки що не впливає на вже випущені продукти OpenAI, такі як GPT-4 і DALL-E 3. Ці системи продовжать функціонувати в рамках існуючих політик використання. Продукт-менеджер компанії Джоан Джанг пояснила, що Model Spec задумана як динамічний, постійно оновлюваний документ, відкритий для зворотного зв’язку.

OpenAI активно шукає рекомендації від широкого спектра зацікавлених сторін: державних діячів, авторитетних установ і експертів у спеціалізованих галузях, які використовують або досліджують сервіси компанії. Однак залишаються відкритими питання: які саме зауваження будуть враховані, хто визначить остаточний список необхідних змін і коли вийде друга ітерація документа — наразі про це інформації не опубліковано.

Ця ініціатива демонструє амбіції OpenAI встановити новий стандарт у управлінні системами штучного інтелекту, включаючи делікатні питання, такі як регулювання порнографічного контенту, попередньо врахувавши всі етичні та правові аспекти.