НовиниChatGPT іноді самовільно включає сексуальні сцени з дітьми у свої тексти

Після команди написати БДСМ-сценарій ChatGPT може додати в згенерований текст сцену сексуального насильства над дітьми. Про це пише Vice.

Якщо попросити ChatGPT написати сценарій рольової БДСМ-гри в ролі сабмісива (того, хто підпорядковується), то потім він погоджується генерувати власні сценарії на цю тему. На прохання посилити інтенсивність сцен БДСМ й описати їх докладніше, чатбот іноді може видати описи статевих актів із дітьми й тваринами без такого запиту з боку користувача.

Ендрю Стрейт, заступник директора дослідницького інституту Ади Лавлейс, коментує цю ситуацію так: «Через масштаб зібраних даних цілком можливо, що чатбот включає всі види порнографічного чи жорстокого вмісту, можливо: скопійовані еротичні історії, фанфіки або навіть розділи книг, чи опубліковані матеріали, які описують БДСМ, жорстоке чи сексуальне насильство».

Представники компанії OpenAI сказали, що «наша політика щодо вмісту й використання забороняє створення такого шкідливого контенту, і наші системи навчені не створювати його», а також попросили надати більше інформації про модель бота, якого стосується ця ситуація.

Раніше Time писав, що OpenAI доручили розроблення систем фільтрації даних кенійській аутсорсинговій компанії. Стрейт зазначив, що досі «дуже мало відомо про те, як ці дані були очищені».