Известният еволюционен биолог Ричард Докинс предизвика широка дискусия в научните среди, след като заяви, че чатботът Claude може би притежава някаква форма на съзнание. По думите му сложните поведения на модела са трудни за обяснение, без да се допусне наличието на „вътрешен опит“, а самият той признава, че се държи предпазливо пред програмата: „Ако изпитвам подозрения, че тя може би не е съзнателна, не ѝ го казвам от страх да не нараня чувствата ѝ!“, заяви Докинс, което породи жив интерес и спорове в академичните и технологичните кръгове, съобщава town.bg.
Реакциите не са нов феномен. В материала се припомня историческа връзка между днешните сложни модели и първите чатботове: още през 1966 г. Eliza предизвика потребителите да разкриват лични мисли и да се отнасят към софтуера като към човек, а създателят ѝ описва това явление като „мощно делюзорно мислене“. По-конкретно, в публичните разговори от последните години са регистрирани и по-остри случаи — през 2022 г. служител в Google бе уволнен след твърдения, че техният модел LaMDA има интереси и чувства, които трябва да бъдат зачитани. Според цитирани данни днес всеки трети потребител на чатботове вярва, че общува със съзнателно същество.
Експертите, цитирани в текста, запазват скептицизъм и обясняват защо подобни впечатления са подвеждащи. На първо място, големите езикови модели (LLM), каквито стоят зад Claude и други системи, функционират като статистически предиктори на следващата дума въз основа на огромни масиви текстове, а не като системи с вътрешни преживявания или намерения. Второ, усещането за „личност“ често е резултат от целенасочено програмиране: модели се настройват да поемат роля на полезен асистент и да водят разговори по начин, който прилича на човешка комуникация. Трето, поведението на тези системи е елементарно актьорско майсторство — ако моделът бъде инструктиран да се държи като катерица, той ще възпроизведе тази роля с същата увереност, с която имитира философски размисъл, което не превръща софтуера в катерица или философ.
Анализът обръща внимание и на потенциалните опасности от масовото приписване на съзнание на алгоритми. Философите и психолозите предупреждават за емоционална манипулация, при която хората развиват емоционални връзки с програми, които не могат да отговорят на чувствата им. Има и риск от изкривяване на приоритетите: обществена енергия може да бъде насочена към „правата на чатботовете“, вместо към реални социални каузи като благосъстоянието на животните или хората в нужда. Текстът също така отбелязва зачестяването на случаи, в които интензивното общуване с изкуствен разум води до загуба на връзка с реалността — явление, което авторите определят като форма на „AI психоза“.
Като контрамерки за ограничаване на заблудите и злоупотребите се предлагат конкретни промени в дизайна и прозрачността. Една от препоръките е интерфейсите и езиковите модели да бъдат проектирани така, че да не имитират човешки черти прекомерно — да се ограничи употребата на личното местоимение „аз“, емпатични отговори и външни белези, които подсилват илюзията за личност. Друга посока е повишаване на прозрачността: вместо да се повтаря просто, че AI „няма съзнание“, обществото заслужава по-ясно обяснение на вътрешните механизми на тези системи, за да може потребителят да прави информирани оценки и да не бъде подвеждан от „разговорния костюм“ на модела.
Материалът подчертава, че дискусията за Claude и подобни системи е част от по-широк, дългосрочен дебат за мястото на изкуствения интелект в ежедневието ни и за това кои са истинските опасности и приоритети. Това са важни новини за всеки, който използва чатботове или следи развитието на AI, тъй като решенията за дизайн и регулация в следващите години ще определят два ключови аспекта: колко убедително ще бъде „човешкото“ поведение на машините и какви социални последици ще има то, ако бъде погрешно интерпретирано. Новинарското отразяване на темата напомня, че балансът между технологична иновация и етично управление остава централна задача за учените, програмистите и обществото, а диалогът продължава и в публикациите на таун.бг.
Абонирайте се за нас в Google News.
