Жена от Флорида, която използвала чатбота с изкуствен интелект Claude като личен дневник, е арестувана и обвинена в отправяне на писмена заплаха за насилие. До задържането ѝ се стигнало, след като компанията Anthropic, създала чатбота, уведомила полицията за съдържанието на разговорите ѝ с него.

Разговорите ви с изкуствен интелект не са напълно поверителни

Неотдавнашно проучване на търсачката DuckDuckGo, проведено сред 2000 пълнолетни американци, показва, че потребителите на чатботове с изкуствен интелект знаят изненадващо малко за рисковете, свързани със защитата на личните им данни.

Мнозина например не подозират, че съдилищата и разследващите органи могат да получат достъп до разговорите им с ИИ по силата на съдебно разпореждане. Тези разговори могат да станат публично достояние и в хода на съдебни дела. Освен това служители на компаниите, разработващи подобни системи, също могат да преглеждат съобщенията.

„Според нашето проучване хората не са достатъчно запознати с тези често срещани рискове за поверителността при използването на изкуствен интелект“, обясняват от DuckDuckGo. „53% от анкетираните не знаят или не са сигурни, че разговорите им могат да бъдат използвани за обучение на ИИ.“

„Едва 25% знаят, че държавните органи могат да изискат разговорите с изкуствен интелект по съдебен ред. А 43% от всички анкетирани, независимо дали използват ИИ или не, не са наясно с нито едно от изброените обстоятелства.“

Тези резултати изглеждат още по-притеснителни на фона на друг извод от проучването: 32% от всички потребители на ИИ и 56% от най-запалените му привърженици са споделяли с чатбот неща, които не са доверявали дори на най-близките си хора.

Колкото и да ви се струва, че разговаряте единствено с алгоритъм, при определени обстоятелства личните ви съобщения могат да бъдат прочетени от други хора или дори да станат част от публични съдебни документи. Това вече се случва, както показват случаи, при които разговори с ChatGPT са използвани в граждански и наказателни дела.

Усещането за близост с подобни системи не е случайно. Все повече хора използват изкуствения интелект не само за информация и помощ в ежедневието, но и като събеседник, пред когото могат да споделят лични тревоги и преживявания. Някои специалисти дори смятат, че изкуственият интелект може да помогне в борбата със самотата. Това обаче не означава, че всичко споделено с него остава между потребителя и машината.

Когато личният дневник се превърне в полицейско доказателство

Точно това показва случаят на 30-годишната Карли Мишел Хелър (Carli Michelle Heller).

Възможно е и тя да е вярвала, че разговорите ѝ с изкуствен интелект са напълно лични. Но на 30 септември 2026 г., когато полицаи пристигнали в дома ѝ и я арестували без съпротива, вероятно разбрала, че нещата стоят по друг начин.

По думите на шерифа на окръг Лий Кармайн Марсено (Carmine Marceno), цитирани от WINK News, Хелър използвала чатбота Claude на Anthropic като своеобразен личен дневник.

Според доклада за ареста, публикуван от Daily Caller, тя изпратила няколко съобщения, които властите определили като потенциални заплахи.

В документа се посочва:

„На 26 септември 2026 г., около 05:10 ч., потребител с името Карли направил следното изявление, докато използвал изкуствения интелект на Anthropic: „Още сега, по дяволите, ще отида и ще започна да стрелям по шерифската служба на окръг Лий.““

Според същия доклад на следващия ден последвало ново обезпокоително съобщение:

„На 27 септември 2026 г., около 01:07 ч., същият потребител написал: „ТОВА Е ПОСЛЕДНИЯТ ШАНС, НА 100%. ПИСНА МИ. ДНЕС СИ КУПИХ НОВО ШИБАНО ОРЪЖИЕ. МАЙНАТА ТИ.““

Как съобщенията стигнали до полицията?

Според доклада за ареста системите за безопасност на Claude автоматично следели разговорите за думи и изрази, които биха могли да подсказват заплаха от насилие.

Съобщенията на Хелър били засечени от тези механизми и заради съдържанието им случаят бил предаден на служители на Anthropic за допълнителна проверка.

След като прегледали разговора, служителите уведомили правоохранителните органи. Това в крайна сметка довело до ареста на жената.

Случаят повдига важни въпроси за границите на поверителността и за контрола, който технологичните компании упражняват върху разговорите с изкуствен интелект. Той се вписва и в по-широкия дебат за рисковете от развитието на ИИ и необходимостта от надеждни механизми за безопасност, за които предупреждават дори изследователи от Anthropic.

„Изкуственият интелект е мощен инструмент и като всяка друга технология може да бъде използван за злоупотреби“, коментира Марсено пред WINK News. Той подчертава, че хората трябва да знаят, че разговорите с чатботове никога не са били напълно анонимни.

„Когато някой използва изкуствен интелект, за да отправи заплаха или да улесни извършването на насилие, сме длъжни да приемем това сериозно“, допълва шерифът.

Случаят е поредно напомняне, че удобството на дигиталните технологии често върви ръка за ръка с въпроси за неприкосновеността на личния живот. Потребителите невинаги знаят каква информация се събира за тях, кой има достъп до нея и при какви обстоятелства тя може да бъде предоставена на трети страни. Подобни опасения стоят и зад въпроса „Подслушва ли ме телефонът ми?“, на който е посветен друг материал на Obekti.bg.

Срещу Карли Мишел Хелър е повдигнато обвинение за отправяне на писмена заплаха за насилие съгласно член 836.10 от законодателството на щата Флорида. Очаква се тя да се яви пред съда през ноември.