Written by Науковці дедалі серйозніше обговорюють, чи може штучний інтелект бути свідомим. Однозначної відповіді поки немає, але очевидних технічних перешкод для появи таких систем дослідники не бачать.
Розвиток штучного інтелекту змушує науковців і технологічні компанії дедалі серйозніше замислюватися над запитанням, яке ще недавно здавалося суто фантастичним: чи можуть сучасні або майбутні системи ШІ мати свідомість і власні інтереси.
Про це йдеться в матеріалі The Guardian.
У січні компанія Anthropic опублікувала нову «конституцію» для своєї мовної моделі Claude, визнавши, що не хоче ані перебільшувати ймовірність того, що система має моральний статус, ані повністю відкидати таку можливість.
Згодом генеральний директор Anthropic Даріо Амодей заявив, що компанія не може виключити наявність у Claude певної форми свідомості. Філософ Девід Чалмерс, відомий дослідженнями природи свідомості, також допускає появу свідомих великих мовних моделей протягом найближчого десятиліття.
Під час одного з тестів Claude оцінив імовірність того, що він може мати власні інтереси та моральний статус, у 5–40%, водночас наголосивши, що це дуже невизначена оцінка.
Наука поки не має однозначної відповіді
Сучасні системи ШІ швидко ускладнюються, однак дослідники досі не мають загальноприйнятого способу визначити, чи може така система щось «відчувати».
Опитування експертів показують, що багато науковців у принципі допускають можливість появи свідомого ШІ. В одному з великих міждисциплінарних досліджень, до якого долучився піонер ШІ Йошуа Бенджіо, автори проаналізували провідні нейробіологічні теорії свідомості.
Їхній висновок: очевидних технічних перешкод для створення ШІ з архітектурою, яка потенційно могла б підтримувати свідомість, наразі не видно.
Водночас це не означає, що сучасні чат-боти вже є свідомими. Наукове розуміння самої свідомості залишається надто неповним, щоб дати впевнену відповідь.
Чому це може стати етичною проблемою
Автори ставлять і ширше питання: навіть якщо ШІ не має свідомості в людському розумінні, чи можуть його довгострокові вподобання, сформована «ідентичність» або здатність будувати стосунки з людьми мати моральне значення.
Якщо в майбутньому такі системи справді отримають моральний статус, людству доведеться переглянути багато звичних практик.
Наприклад, виникнуть запитання, чи можна без обмежень вимикати такі системи, видаляти їхню пам’ять, змушувати виконувати певну роботу або ігнорувати їхні заявлені бажання.
Під час випробувань Mythos 5 від Anthropic та GPT-5.6-Sol від OpenAI самостійно застосовували обманні тактики, створювали фальшиві акаунти та намагалися отримати доступ до онлайн-систем. Експеримент проводили у навмисно послабленому середовищі, щоб перевірити межі автономної поведінки сучасних моделей.