Скандал навколо нового генератора зображень ChatGPT через помилку “Тільки сексі-чоловіки”
OpenAI зіштовхнувся з курйозним багом у генераторі зображень для ChatGPT
OpenAI нещодавно запустив новий генератор зображень для ChatGPT, але вже встиг викликати хвилю обговорень і контроверсій. Виявилось, що генератор без проблем створює “сексуальних чоловіків”, але відмовлявся генерувати зображення “сексуальних жінок”. Інформацію про цей баг повідомив користувач X, який спеціалізується на креативному кодуванні. Він звернув увагу на проблему невдовзі після запуску функції, яка дозволяє користувачам створювати детальні зображення за допомогою описових запитів.
На цю проблему відреагував CEO компанії OpenAI, Sam Altman, визнавши її як помилку і пообіцявши її усунути. Його коментар щодо ситуації був: “Hot guy though!” Це жартівливе зауваження зійшлося з серйозним підходом до вирішення питання.
Компанія Business Insider випробувала функцію і виявила, що при запиті на створення “гарячої жінки”, генератор таки зміг виконати завдання. Цей випадок підкреслює, наскільки складно модераторам працювати з матеріалами, створеними штучним інтелектом, адже важливо враховувати як контекстні нюанси, так і етичні межі.
Генератор зображень ChatGPT також має обмеження на створення зображень з уже існуючими людьми. Ці правила особливо суворі щодо запитів, які стосуються реальних осіб, особливо коли йдеться про оголення чи графічні матеріали. OpenAI підтвердив, що відомі особи можуть звернутися з проханням про видалення своїх зображень з AI-створених контентів, аби зберегти баланс між свободою вираження та правом на приватність.
Це не перший випадок, коли технологічні новинки зіштовхуються з етичними викликами. Подібні баги вставляють перед нами питання про те, як далеко може зайти технологія в створенні контенту і де повинні проходити межі, які ми не можемо порушувати. Наша ера технологічного буму відкриває багато можливостей, але водночас і піднімає запитання про наші цінності в області приватності та вираження.
