Използването на изкуствен интелект кара хората да надценяват собствените си способности

Ефектът на Дънинг-Крюгер се „обръща“ при взаимодействие с ChatGPT.

Когато става дума за самооценка, хората обикновено вярват, че се справят по-добре от средното. Това добре познато когнитивно изкривяване се нарича ефект на Дънинг-Крюгер (Dunning-Kruger Effect, DKE) – при който хората с по-ниски умения надценяват своите способности, а по-компетентните подценяват себе си.

Но ново изследване на Университета „Аалто“ (Aalto University) показва, че когато използваме изкуствен интелект (AI), особено модели като ChatGPT, този ефект изчезва – и дори се обръща.

Всички надценяват постиженията си с помощта на AI

Изследователите установили, че всички участници, независимо от нивото си на интелектуална грамотност, надценяват представянето си, когато използват ChatGPT.

Още по-изненадващо било, че по-„AI грамотните“ хора проявяват по-голяма самоувереност, отколкото реалните им резултати оправдават.

„Открихме, че когато става дума за AI, ефектът на Дънинг-Крюгер изчезва. И дори по-голямата грамотност в областта на изкуствения интелект води до повече самоувереност, вместо до реализъм,“ обяснява проф. Робин Велш, водещ автор на изследването.

Според него резултатите подчертават един тревожен феномен: хората действително се справят по-добре с помощта на AI, но всички систематично надценяват своите способности.

AI грамотността не означава саморефлексия

„Днес всички говорим за нуждата от AI грамотност, но това изследване показва, че дори хората, които технически разбират как работи изкуственият интелект, не се научават да взаимодействат критично с него,“ казва Велш.

Докторантката Даниела да Силва Фернандес добавя:
„Настоящите AI инструменти не стимулират метакогницията – осъзнаването на собствените мисловни процеси. Ние не се учим от грешките си. Нужно е да се разработят системи, които насърчават потребителя да се замисли и да анализира.“

Резултатите са публикувани в списанието Computers in Human Behavior.

Експериментът: тестове, ChatGPT и едно фалшиво чувство за успех

Екипът провел два експеримента с около 500 участници, които трябвало да решават логически задачи от американския изпит LSAT – тест, известен със своята трудност.
Половината използвали ChatGPT, а другата половина – не.

След всяка задача участниците трябвало да оценят собственото си представяне, като точната самооценка носела допълнително възнаграждение.

Резултатите показали, че повечето потребители задали само по един въпрос на ChatGPT, без да проверяват или преформулират отговора.

„Хората просто копират въпроса и приемат отговора на AI за правилен, без да се замислят. Това е типичен случай на когнитивно прехвърляне (cognitive offloading) – когато оставяме машината да мисли вместо нас,“ обяснява проф. Велш.

Къде е проблемът?

Когато потребителите не взаимодействат активно с AI (например чрез допълнителни уточняващи въпроси или анализ на отговора), те не получават нужните сигнали, за да калибрират самоувереността си.

Така се създава илюзия за знание – усещането, че разбираш нещо, просто защото AI го е обяснил убедително.

Какво можем да направим

Екипът предлага практическо решение: AI системите трябва да насърчават размисъл.

„AI може да пита потребителя: Можеш ли да обясниш как стигна до този извод? – така ще стимулира критичното мислене,“ казва Фернандес.

Извод

Изследването показва, че взаимодействието с AI не само не елиминира когнитивните изкривявания, но може да ги засили, особено при хора, които смятат, че разбират технологията.

Сляпото доверие в изкуствения интелект може да доведе до загуба на умения за саморефлексия и критично мислене, затова е нужно AI инструментите да бъдат проектирани така, че да насърчават диалог, а не пасивност.

Източник: TechXplore