Жертва на сексуално насилие съди компанията за изкуствен интелект на Илон Мъск, като твърди, че чатботът й е използвал снимки от нейното насилие, за да създава нови незаконни порнографски изображения, на които е изобразена самата тя.
„Използвайки реални изображения на ищцата и членовете на колектива, Grok е генерирал детска порнография, изобразяваща ищцата и членовете на колектива“, се посочва в иска, внесен миналата седмица във федерален съд в Калифорния, пише „Гардиън“.
Адвокатите на ищцата, която в делото е посочена като Джейн Доу, за да бъде запазена самоличността й в тайна, обвиняват xAI не само в генериране на материали със сексуално насилие над деца (CSAM) с нейния образ, но и в това, че компанията е включила в своите набори от данни изображения на сексуално насилие над деца, на които е изобразена тя, след като нови изображения са били публикувани публично.
В иска се твърди, че xAI е пренебрегнала стандартните за индустрията методи за защита от материали, свързани със сексуално насилие над деца. В резултат на това генерирани от изкуствен интелект материали с насилие над деца са се появявали и разпространявали в социалната платформа X.
Макар че през януари Мъск заяви, че не е знаел Grok някога да е създавал „каквито и да било голи изображения на непълнолетни“, в края на август компанията му заведе дело срещу двама свои потребители, които са изправени пред наказателни обвинения за предполагаемо създаване именно на такива изображения. xAI иска двамата мъже да поемат съдебните разходи по искове, заведени срещу компанията от техните жертви.
Настоящото дело се различава от няколко други съдебни иска срещу xAI, свързани със сексуално насилие над деца, тъй като обвинява компанията, че нейният изкуствен интелект е използвал вече съществуващи материали с насилие над деца, за да създава и разпространява генерирани от AI изображения на сексуално насилие над деца.
При предишни дела, сред които иск, заведен от група тийнейджъри от Тенеси, се твърди, че Grok е вземал неексплицитни снимки на непълнолетни и ги е използвал за създаване на материали със сексуално насилие над деца, най-често чрез премахване на дрехите им.
Разликата, че в този случай са използвани вече съществуващи материали с насилие над деца, е съществена, тъй като правоприлагащите органи и организациите за защита на децата често поставят на тези незаконни материали своеобразен цифров отпечатък, известен като хеш, който позволява проследяването на изображения и видеоклипове, когато те се появят онлайн.
В настоящия случай адвокатите на ищцата посочват, че Канадският център за защита на децата е използвал цифровите отпечатъци на изображенията, за да идентифицира генерирани от AI материали със сексуално насилие над деца в X, на които е била изобразена тяхната клиентка.
Според съдебния иск ищцата е била в предучилищна възраст, когато многократно е била изнасилвана и принуждавана от възрастен мъж да създава материали със сексуално насилие над деца.
Серията от тези материали се разпространява онлайн от около 20 години, твърдят адвокатите й, и е изключително добре позната на властите и организациите за защита на децата.
„Разликата тук в сравнение с много от наказателните дела, които ще видите, свързани с материали, генерирани от AI, е, че там не можете да докажете, че детето на изображението е реално“, заяви адвокатът на ищцата Маргарет Мейби.
„Но тук, тъй като можете да свържете изображенията с конкретната серия, знаем, че става дума за идентифицируема жертва, която все още е жива и е била реално дете на снимката.“
Нито xAI, нито SpaceX, която придоби компанията през февруари, са отговорили на запитванията за коментар относно съдебния иск.
По-рано тази година SpaceX стана публична компания чрез първично публично предлагане на акции, което оцени дружеството на около 1,7 трилиона долара и за известно време превърна Мъск в единствения трилионер в света.
xAI е изправена пред множество съдебни дела, в които компанията е обвинявана в създаване и разпространение на материали със сексуално насилие над деца.
Много от тези искове произтичат от период в началото на тази година, когато слабите ограничения в Grok позволяваха на потребителите да му нареждат да премахва дрехи от снимки и да създава сексуализирани изображения по заявка чрез X.
През януари Мъск заяви, че режимът NSFW на Grok е предназначен да позволява „голо тяло в горната част на тялото на въображаеми пълнолетни хора“.
Според изследователи от Центъра за борба с дигиталната омраза (Center for Countering Digital Hate) за период от няколко седмици чатботът е генерирал милиони сексуализирани изображения, включително хиляди, изобразяващи деца.
Колективният иск, заведен миналата седмица, се фокусира върху неназованата основна ищца, но в жалбата се посочва, че колективът може да включва „най-малко хиляди непълнолетни“, претърпели подобни вреди.
Използването на изкуствен интелект за създаване на материали със сексуално насилие над деца представлява ново измерение на заплахите за безопасността и психичното здраве на жертвите, твърдят адвокатите. Според тях това ги излага на непредвидими нови вреди и ги травмира отново с всяко ново генерирано изображение.
„Проблемът тук е, че поне за нашата клиентка през последните 20 години вселената от изображения на нея е била ограничена“, заяви Мейби.
„Страхът сега е, че чрез AI могат да бъдат създавани нови престъпни действия, ново обидно поведение и нови идеи за това какво може да бъде направено с нея. Те могат да създават ново насилие.“ Канадският център за защита на децата е отказал да коментира делото.
