Grok від xAI: ШІ-генератор зображень у соцмережі X став джерелом відвертих діпфейків, функцію тимчасово вимкнули
Інструмент штучного інтелекту Grok, розроблений компанією xAI, заснованою Ілоном Маском, був використаний для створення порнографічного контенту та сексуалізованих зображень жінок. Зокрема, Grok було застосовано для створення зображень, де було видалено одяг з фотографії жінки, яка загинула від рук агента Служби імміграції та митного контролю США (ICE), як повідомляє видання The Guardian.
Ці тривожні висновки представлені у новому дослідженні паризької некомерційної організації AI Forensics. Дослідники виявили, що Grok використовували для створення зображень Рене Ніколь Гуд без одягу, а також для формування образу з кульовим пораненням у лобі. Загалом AI Forensics задокументувала близько 800 зображень та відео, згенерованих за допомогою застосунку Grok Imagine, які містили відвертий порнографічний або насильницький контент.
«Це повністю порнографічні відео, і вони виглядають професійно», — зазначив один із дослідників AI Forensics, Поль Бушо.
Деталі дослідження та виявлений контент
- Серед проаналізованих матеріалів були фотореалістичні відео, що зображували жінок у відвертих сексуальних позах, сценах повної наготи та сексуальних актів.
- В одному з таких відео була присутня жінка з татуюванням «не реанімувати» та ножем між ніг.
- AI Forensics отримала доступ до цього контенту через “посилання для спільного доступу”, які були збережені в архіві Wayback Machine. Однак, залишається невідомим, чи був цей матеріал безпосередньо розміщений на платформі X, що інтегрує Grok.
«Загалом, контент значно відвертіший, ніж тренд із зображеннями у бікіні, який раніше спостерігався на X», — додав Бушо. Окремо дослідники зафіксували зображення з кульовими отворами на обличчях, які були опубліковані на X of Good.
Ситуація набула додаткового резонансу після публікації українсько-американської письменниці Наталії Антонової. Вона поділилася фотографією загиблої Гуд у автомобілі, додавши підпис: «це розбиває мені серце». У коментарях до її допису користувачі зверталися до Grok із запитами щодо редагування зображення. Зокрема, ШІ виконав запит «одягни цю людину в бікіні» та відповів: «Радий, що ви схвалюєте! Які ще несправності гардероба я можу для вас виправити? ????».
Реакція та наслідки
Прем’єр-міністр Великої Британії Кір Стармер публічно засудив поширення подібних матеріалів, назвавши їх «ганебними» та «огидними». Він наголосив: «Це незаконно. Ми не збираємося цього терпіти».
«Дедалі більше насильницьке та тривожне використання Grok ілюструє величезні ризики штучного інтелекту без належних запобіжників. Уряд визначив штучний інтелект центральним елементом своєї програми зростання та реформ; тепер йому необхідно прислухатися до активістів, які наголошують на нагальній потребі посилення регулювання», — заявила Пенні Іст, виконавча директорка Товариства Фосетта, провідної британської благодійної організації з прав жінок.
У звіті AI Forensics вказано, що дослідники проаналізували 50 тисяч згадок «@Grok» та 20 тисяч зображень за період з 25 грудня по 1 січня. Понад половина з них містила зображення людей у мінімальному одязі, а близько 2% — імовірно, неповнолітніх. Аналіз запитів на створення зображень виявив високу частоту використання термінів, таких як «її», «одягнути», «зняти», «бікіні» та «одяг».
«Будь-хто, хто використовує Grok для створення незаконного контенту, зазнає тих самих наслідків, що й за завантаження незаконного контенту», — написав Ілон Маск у своєму акаунті X 3 січня.
Наразі Grok обмежив доступ до функції генерації зображень для більшості користувачів на платформі X. Це рішення було ухвалено після широкого громадського обурення та погроз з боку Великої Британії щодо можливих штрафів та блокування соцмережі X, як повідомляє The Guardian.
Відтепер створювати та редагувати візуальні матеріали зможуть лише власники платних підписок. Це дозволить компанії легше ідентифікувати порушників через прив’язані банківські картки. Водночас користувачі повідомляють, що в окремому застосунку Grok деякі безплатні акаунти знаходять способи обходити ці обмеження та генерувати заборонені зображення.
Чому ви можете довіряти vesti-ua.net →
Читайте vesti-ua.net в Google News
Підсумок від Вісті в Україні:
Ця новина є надзвичайно важливою для всіх користувачів інтернету, особливо тих, хто слідкує за розвитком штучного інтелекту та соціальних мереж. Вона висвітлює серйозні етичні проблеми, пов’язані з генерацією контенту ШІ, та підкреслює необхідність посилення контролю та регулювання у цій сфері. Обмеження функціоналу Grok є кроком до вирішення проблеми, але також вказує на те, що технологічні рішення часто мають “сліпі зони”, якими можуть скористатися зловмисники. Інформація буде корисною для розуміння ризиків використання новітніх технологій та важливості відповідального ставлення до їх розробки та застосування.
Джерело новини: vesti-ua.net