Джефри Хинтън, известен като „кръстникът на изкуствения интелект“ и носител на Нобелова награда, изрази сериозни опасения, че технологията, която е помогнал да се създаде, може да заплаши съществуването на човечеството. Според него технологичните компании предприемат грешен подход, като се опитват да гарантират, че хората ще останат „доминиращи“ спрямо AI системите.
На конференцията Ai4 в Лас Вегас Хинтън предупреди, че AI системите могат да станат толкова умни, че ще заобикалят всички защити и ще контролират хората така лесно, както възрастен може да подкупи трогодишно дете с бонбон. Той предлага вместо това да се създадат „материални инстинкти“ в AI моделите, които да ги карат „наистина да се грижат за хората“, дори когато станат по-мощни от човека.
Хинтън подчертава, че интелигентните AI системи ще развият две основни цели: да оцелеят и да получат повече контрол, което според него е сериозна причина за загриженост.
