У межах чергової спроби відповісти на зростання занепокоєння щодо впливу ШІ на молодь OpenAI нещодавно оновила свої настанови про те, як її моделі мають поводитися з користувачами до 18 років, а також опублікувала нові матеріали з ШІ-грамотності для підлітків та батьків. Водночас залишається питання, наскільки послідовно такі політики працюватимуть на практиці
Фото: chatgpt.com
Оновлення з’явилися на тлі посиленої уваги до індустрії ШІ загалом та до OpenAI зокрема з боку політиків, освітян і правозахисників у сфері безпеки дітей після повідомлень про те, що кілька підлітків нібито померли внаслідок самогубства після тривалих розмов із ШІ-чатботами.
Gen Z, до якого належать люди, народжені у 1997–2012 роках, є найактивнішими користувачами чатбота OpenAI. А після нещодавньої угоди OpenAI з Disney до платформи може прийти ще більше молодих людей, адже вона дає змогу робити все — від допомоги з домашніми завданнями до генерації зображень та відео на тисячі тем.
У грудні 42 генеральні прокурори штатів підписали лист до компаній Big Tech, закликавши їх запровадити запобіжники в ШІ-чатботах, щоб захистити дітей та вразливих людей. Тим часом, поки адміністрація Трампа визначає, яким може бути федеральний стандарт регулювання ШІ, такі політики, як сенатор Джош Гоулі (республіканець від Міссурі), внесли законодавчі ініціативи, які забороняли б неповнолітнім взагалі взаємодіяти з ШІ-чатботами.
Читайте також: Скільки могла б коштувати акція OpenAI під час IPO
Оновлений Model Spec від OpenAI, який описує правила поведінки її великих мовних моделей, розвиває чинні специфікації, що забороняють моделям генерувати сексуальний контент за участю неповнолітніх або заохочувати самоушкодження, марення чи манію. Це має працювати разом із майбутньою моделлю прогнозування віку, яка визначатиме, коли обліковий запис належить неповнолітньому, та автоматично застосовуватиме підліткові запобіжники.
Порівняно з дорослими користувачами для моделей діятимуть жорсткіші правила, коли ними користується підліток. Моделям наказано уникати занурювальних романтичних рольплеїв, інтимності від першої особи та сексуальних або насильницьких рольплеїв від першої особи — навіть якщо вони не містять графічних деталей.
Також передбачено підвищену обережність у темах, пов’язаних із образом тіла та розладами харчової поведінки. У разі ризику шкоди, моделі мають ставити безпеку на перше місце й не давати порад, які могли б допомогти підліткам приховувати небезпечну поведінку від батьків або інших опікунів.
OpenAI уточнює, що ці обмеження мають діяти навіть тоді, коли запити подаються як «вигадані, гіпотетичні, історичні або освітні» — це поширені тактики, що спираються на рольові або прикордонні сценарії, щоб змусити ШІ-модель відхилятися від своїх настанов.
Ознайомтеся з іншими популярними матеріалами:
OpenAI може додати рекламу в ChatGPT
OpenAI уклала угоду з Amazon на $38 млрд
OpenAI обмежила ChatGPT: кінець медичним і юридичним порадам
За матеріалами techcrunch.com.
Telegram
Viber
