Напоследък се говори доста за свръхинтелигентния изкуствен интелект (ИИ) и рисковете, които той може да крие за човечеството. Трудно е човек да сърфира в интернет сред безкрайното съдържание, генерирано от ИИ, без да попадне на предупреждения от представители на технологичната индустрия, че изкуственият интелект може да унищожи човечеството. Един водещ изследовател от Anthropic дори оценява вероятността ИИ да „убие всички хора“ през следващото десетилетие на над 10%.

Последната вълна от шум около темата вероятно е преувеличена, а появата на истински свръхинтелект от сегашното поколение големи езикови модели се смята за малко вероятна. Това обаче не означава, че поведението им не заслужава внимание. Например Anthropic твърди, че е открила нов начин да ограничава нежелани личностни характеристики в системите с изкуствен интелект.

Свръхинтелектът все пак е тема, която учените изследват задълбочено от години. И те отправят немалко предупреждения към онези, които се опитват да създадат нещо, способно лесно да се превърне в наш унищожител.

Една от публикациите по темата е на философа Ник Бостром. Сред другите му значими трудове е влиятелната разработка, посветена на хипотезата, че живеем в компютърна симулация. В Института за бъдещето на човечеството Бостром изследва и заплахите за нашия вид, включително онези, които може да породи изкуственият интелект.

Множество научни трудове и произведения на научната фантастика разглеждат опасността от злонамерени системи с ИИ, преследващи собствени зловещи цели. В една своя публикация обаче Бостром насочва вниманието към малко по-различна заплаха – ИИ, който преследва поставена от човек и на пръв поглед напълно безобидна цел: да произвежда кламери.

Разбира се, съвсем логично е човечеството да бъде погубено заради канцеларски материали – но как точно?

Сигурно много от вас вече кимат и си казват: „Да, напълно логично е канцеларските материали да се окажат причината за нашата гибел.“ Нека все пак разгледаме аргумента.

Като начало, тук не става дума за обикновени чатботове с изкуствен интелект, а за развит разум, който многократно превъзхожда човешкия.

„Свръхинтелект е всеки интелект, който значително превъзхожда най-добрите човешки умове в практически всяка област, включително научното творчество, общата мъдрост и социалните умения“, пише Бостром.

„Това определение оставя открит въпроса как точно е реализиран свръхинтелектът – той може да съществува в цифров компютър, в съвкупност от свързани в мрежа компютри, в отгледана в лаборатория мозъчна тъкан или под някаква друга форма.“

Според Бостром при създаването на подобен свръхинтелект трябва да определим неговите цели и мотивация с изключителна точност. В противен случай може много бързо да се озовем в ситуация, която скромният ни човешки разум вече не е способен да контролира.

Бостром избира кламерите за пример именно защото тяхното производство изглежда като напълно безобидна цел. Нещата обаче могат да се объркат катастрофално, ако преследващият тази цел ИИ е много по-интелигентен от човека, който му я е поставил.

Ако основната задача на ИИ е да произвежда кламери, той може да се заеме с изпълнението ѝ, като започне да „превръща първо цялата Земя, а впоследствие и все по-големи части от Космоса в съоръжения за производство на кламери“.

„ИИ бързо ще осъзнае, че би било много по-добре, ако хората не съществуват, защото те могат да решат да го изключат“, обяснява Бостром пред HuffPost през 2014 г. „А ако го направят, ще бъдат произведени по-малко кламери.“

„Освен това човешките тела съдържат много атоми, които могат да бъдат превърнати в кламери. ИИ ще се стреми към бъдеще, в което има огромно количество кламери, но няма хора.“

Дори безобидната цел може да доведе до катастрофа

Разбира се, този пример има за цел да покаже как дори привидно безобидна задача може да доведе до ужасяващи последици. Той подчертава и колко внимателно трябва да действа човечеството още в началния етап от създаването на свръхинтелект – преди да е станало твърде късно.

„По един по-неуловим начин това може да доведе до създаването на свят, който днес бихме определили като желан, но който в действителност се оказва измамна утопия, в която неща от съществено значение за човешкото благоденствие са безвъзвратно изгубени“, допълва Бостром.

„Трябва много да внимаваме какво си пожелаваме от един свръхинтелект, защото може наистина да го получим.“

Внимавайте какво си пожелавате

Примерът може да звучи преувеличено. Но ако създателите на днешните системи с изкуствен интелект действително вярват, че се намират на прага на нещо много по-могъщо, вероятно си струва да го обмислят внимателно.

Разбира се, че искаме кламери. Но не чак толкова много, че заради производството им цялото човечество да бъде поробено от някой свръхинтелигентен властелин на кламерите.