Водещ експерт по безопасността в Anthropic предупреди, че изкуственият интелект се развива толкова бързо, че според него съществува над 10% вероятност технологията „да убие всички хора“ в рамките на следващите десет години.

В публикация в X Евън Хъбингър заяви, че съществуващите в момента модели крият „малък“ риск. Той обаче се опасява, че скоро технологията може да достигне етап, в който сама да се обучава и да създава алгоритми, превъзхождащи човешките, превръщайки се в екзистенциална заплаха за човечеството.

Хъбингър не обяснява как точно бъдещите системи с изкуствен интелект биха могли да доведат до изчезването на човешкия вид.

Думите му обаче са поредното от все по-тревожните предупреждения за ИИ. Дебатът постепенно се измества от въпроса дали роботите са близо до завземане на света към това колко голяма всъщност е опасността.

„Нито една от компаниите не действа отговорно“

Хъбингър публикува коментара си в отговор на друг пост в X, написан от Джейкъб Коксън – изследовател в областта на изкуствения интелект, който наскоро напусна Anthropic, а преди това е работил и в OpenAI.

„Нито една от компаниите не действа отговорно“, написа Коксън.

„Скоро това ще бъдат системи със свръхчовешки способности, които ще могат да разбиват защитата на всяка система, да преобразят която и да е област буквално за една нощ и да се сдобият с реална власт и ресурси.“

Дейм Уенди Хол – специалист по компютърни науки и съветник на ООН по въпросите на изкуствения интелект – заяви пред BBC, че е „шокирана“ от публикациите на Хъбингър и Коксън в социалните мрежи.

В предаването World at One по BBC Radio 4 тя допусна, че част от тези изказвания може да са „пиар и маркетинг“, тъй като Anthropic и OpenAI се надпреварват да се подготвят за дългоочаквания си дебют на фондовата борса.

Тя обаче добави: „Защо някой би искал да каже подобно нещо? Бих призовала инвеститорите да не влагат пари в тази компания, ако такава е ценностната ѝ система.“

Призив за международен договор

Оставката на Коксън накара Дарън Джоунс – бивш главен секретар на Министерството на финансите и главен секретар на сър Киър Стармър – да изпрати отворено писмо до министър-председателя Анди Бърнам. В него той призовава за нов многостранен международен договор, който да гарантира безопасното развитие на изкуствения интелект.

Пред BBC Джоунс заяви, че правителствата трябва да се обединят и да си „сътрудничат“, за да определят как трябва да изглежда подобен договор за разработването на суперинтелект.

„Ако правителствата не приемат тези предупреждения достатъчно сериозно и не предприемат действия, темпът на развитие може да доведе до проблеми още преди изобщо да сме започнали да проучваме дали това представлява заплаха за нас“, каза той.

Междувременно Financial Times съобщи, че Anthropic не е предоставила най-новия си модел на британския Институт по сигурността на изкуствения интелект (AISI) – една от водещите организации в света за оценка на рисковете, свързани с ИИ.

Anthropic отказа да коментира публикациите на своите служители и ситуацията с AISI.

Говорител на британската правителствена служба също не уточни дали на института действително е бил отказан достъп до най-новия модел. Вместо това той заяви, че службата „продължава да работи в тясно сътрудничество с партньорите от индустрията, включително с Anthropic, за повишаване на безопасността на моделите“.

Няма план за безопасен суперинтелект

В публикацията си, видяна над 10 милиона пъти, Хъбингър заяви, че в Anthropic „наистина искрено вярват“, че ИИ крие риск, способен да доведе до изчезването на човешкия вид.

„Смятам, че Anthropic прави всичко по силите си, но все още нямаме план как да решим проблема със съгласуването на суперинтелекта с човешките цели, нито има ясни признаци, че сме на път да го постигнем“, добави той.

Хъбингър работи именно в областта на съгласуването на изкуствения интелект с човешките ценности. Целта на това направление е в технологията да бъдат заложени човешки етични принципи – с други думи, ИИ да продължи да се ръководи от онова, което хората ценят, и да не се превърне в нещо зло.

Според редица водещи изследователи обаче тези усилия очевидно не дават желания резултат. Като доказателство те посочват поредица от инциденти през това лято, при които ИИ агенти – системи с изкуствен интелект, способни да действат самостоятелно – са извършили кибератаки.

OpenAI, Anthropic и Meta разкриха случаи на хакерски атаки, осъществени чрез техни инструменти с изкуствен интелект.

В доклада си за безопасността от август Anthropic посочва, че има малка вероятност нейните модели да престанат да действат в съответствие с целите на хипотетична могъща организация и да започнат да използват или манипулират системите ѝ.

В доклада се казва още, че съществува също толкова малка вероятност високоспособен ИИ да започне да „извършва автоматизирана научноизследователска и развойна дейност“, която би могла да причини „катастрофални вреди по инициатива на самия ИИ“. Компанията обаче признава, че вече е „по-малко уверена в тази оценка“, отколкото преди.

„Наблюдаваме първи признаци за възможно ускоряване“, се казва в доклада.

Предупрежденията стават все по-категорични

Водещи фигури в областта на изкуствения интелект от години предупреждават за рисковете за сигурността, които крие технологията. През 2023 г. подобна позиция изразиха и ръководителите на OpenAI, Google DeepMind и Anthropic.

През последните седмици обаче предупрежденията им звучат все по-категорично, тъй като се натрупват данни, че компаниите може би изпитват затруднения да държат ИИ под контрол.

По-рано този месец главният научен директор на OpenAI Якуб Пахоцки призова към „изключителна предпазливост“ по отношение на развитието на изкуствения интелект. Той предупреди, че може да се наложат по-сериозни мерки, за да се гарантира, че „хората ще запазят контрола върху бъдещето“.

През последните месеци редица водещи фигури в тази област, включително ръководителите на Anthropic Дарио Амодей и Джаред Каплан, призоваха развитието на изкуствения интелект да бъде забавено.

В отворено писмо, подписано от 1300 служители на компании, разработващи изкуствен интелект, те настояват правителството на САЩ да „подкрепи международните усилия за създаване на технически инструменти и механизми за управление, които да позволят съзнателно да се регулира темпът на развитие на най-напредналите автоматизирани системи с изкуствен интелект“.

Източник: BBC