Човечеството трябва да намери начин да съществува в мир с изкуствения интелект, защото в противен случай рискува да загуби контрола над собственото си бъдеще. За тази опасност предупреди професор Джефри Хинтън, един от водещите учени в областта, който смята, че съвременните системи вече показват признаци, наподобяващи съзнание. Той признава, че перспективата го тревожи не само заради бъдещето на света, но и заради собствените му деца.
Британско-канадският компютърен учен направи изявлението си по време на международния фестивал „Стармус“ на остров Тенерифе. Хинтън, който е на 78 години и е носител на Нобелова награда, напусна компанията „Гугъл“ през 2023 г., след като изрази сериозни опасения за последиците от бързото развитие на изкуствения интелект и възможността за създаване на смъртоносни автономни машини.
Според него вече не може да се изключва възможността интелигентните системи да притежават някаква форма на субективно преживяване. Ученият се позовава и на изследвания, според които някои модели променят поведението си, когато разпознаят, че са подложени на проверка.
Хинтън смята, че границата между съзнанието и способността за осъзнаване на случващото се не е толкова ясна, колкото мнозина предполагат. Той предупреждава и за морална дилема: ако създадените от хората системи някога станат по-интелигентни от своите създатели, обществото ще трябва да реши какво отношение заслужават те.
„Склонни сме да приемаме, че интелигентността дава права. А тези същества, които сме създали, може да се окажат по-интелигентни от нас, но въпреки това да им предоставим по-малко права, отколкото имаме самите ние“, посочва ученият.
Според него ключът към оцеляването ще бъде изграждането на системи, които са заинтересовани от благополучието на хората. Ако човечеството не успее да постигне това, последствията могат да бъдат катастрофални.
„Затова трябва да ги накараме наистина да се грижат за нас. Ако не успеем, сме обречени“, заяви Хинтън пред вестник „Телеграф“.
Разделението сред водещите фигури в технологичния сектор
Докато Хинтън настоява за сериозно отношение към опасностите, част от ръководителите в индустрията се противопоставят на прекомерните ограничения. Сред тях е изпълнителният директор на компанията „Оупън Ей Ай“ Сам Алтман, който в миналото е подкрепял по-строг контрол, но впоследствие започна да предупреждава за отрицателните последици от прекомерното регулиране.
По време на изслушване пред Сената на САЩ през май миналата година Алтман заяви, че правила, подобни на действащите в Европейския съюз, биха могли да имат катастрофален ефект върху развитието на сектора.
Той подчерта необходимостта компаниите да разполагат с достатъчно свобода, за да разработват нови технологии и да реагират бързо на промените. Месец по-рано Алтман изрази и мнение, че ефективните предпазни механизми трудно могат да бъдат създадени, преди да станат ясни конкретните проблеми, които трябва да решават.
Хинтън обаче смята, че изчакването на сериозни инциденти може да се окаже фатална грешка. Според него човечеството трябва да се подготви за момента, в който машините ще разполагат с интелект и способности, значително надхвърлящи човешките.
Още миналата година ученият предупреди, че ако не бъде намерен начин хората да съществуват безопасно с много по-мощни от тях системи, човечеството може да бъде надделяно. Той призова и за противодействие на позициите, според които развитието на изкуствения интелект трябва да остане почти изцяло без регулаторни ограничения.
Нови предупреждения от самите разработчици
Опасенията за потенциалните рискове не идват единствено от Хинтън. Миналия месец изследователят Джейкъб Коксън напусна компанията „Антропик“, създател на чатбота „Клод“, като отправи обвинения, че се внедряват системи, чието поведение може да излезе извън контрол.
В публикация в социалната мрежа „Екс“ той заяви, че част от хората, които работят върху изкуствения интелект, действително вярват, че технологията може да доведе до гибелта на човечеството още преди края на десетилетието. По думите му подобни предупреждения не са рекламен трик, а реално опасение сред специалистите.
По-рано тази година и еволюционният биолог Ричард Докинс изрази мнение, че чатботовете трябва да бъдат разглеждани като потенциално съзнателни същества. Той стигнал до тази позиция след 2 дни общуване с чатбота „Клод“.
Докинс постави въпроса какво би могло да убеди хората, че подобни машини притежават съзнание, ако досегашните взаимодействия не са достатъчни да предизвикат подобно съмнение.
Въпреки тревогите си Хинтън не се е отказал от използването на изкуствен интелект. Тази седмица той призна, че продължава да го използва в ежедневието си, макар и основно за обикновени задачи.
Международният фестивал „Стармус“, който събира представители на науката, астрономията, космическите изследвания, музиката и изкуството, продължава до четвъртък. Дискусиите за бъдещето на изкуствения интелект обаче поставят въпрос, който излиза далеч извън рамките на научните форуми: ще успее ли човечеството да създаде технология, достатъчно мощна, но и безопасна за собствените си създатели?
