Штучний інтелект більше не має можливості вносити зміни у фотографії справжніх людей, щоб демонструвати їх у відвертому вбранні
Компанія xAI наклала обмеження на функціонування чат-бота Grok після інциденту з сексуальними діпфейками. Відтепер Grok не може обробляти фотографії людей, додаючи їм купальні костюми або нижню білизну. Про це інформує «Главком» з посиланням на X.
«Ми запровадили технічні засоби, щоб унеможливити редагування в акаунті Grok зображень реальних людей у відкритому одязі, такому як бікіні. Це обмеження діє для всіх користувачів, у тому числі й для платних підписників», – йдеться в повідомленні.
Окрім того, генерація зображень і можливість редагувати зображення за допомогою акаунту Grok на платформі X тепер доступні тільки платним користувачам. «Це забезпечує додатковий рівень захисту, допомагаючи переконатися, що ті, хто намагається зловживати акаунтом Grok для порушення законодавства або наших правил, можуть бути притягнуті до відповідальності», – зазначено в повідомленні.
Як зазначає X, зараз Grok блокує створення фотографій реальних людей у бікіні чи спідній білизні в державах, де це заборонено законом. Зміни відбулися після того, як влада Каліфорнії розпочала розслідування проти xAI. Один з аналізів виявив, що з 20 тис. зображень, згенерованих під час новорічних свят, більшість показували людей у мінімальному вбранні, включаючи дітей.
Ілон Маск запевняв, що йому нічого невідомо про випадки створення фотографій оголених неповнолітніх. За його словами, при ввімкненому дорослому режимі Grok може демонструвати лише вигаданих дорослих.
Нагадаємо, уряд Індонезії оголосив про тимчасове припинення роботи ШІ-інструменту Grok від xAI Ілона Маска. Причиною став різкий стрибок у створенні порнографічного контенту за допомогою нейромережі, що йде врозріз із суворими законами держави.