Компания «Яндекс» начинает тщательное изучение возможных признаков сознания в искусственном интеллекте.
Компания «Яндекс» приступила к эксперименту, посвященному проявлению сознательных характеристик у искусственного интеллекта (ИИ). Об этом сообщает источник издания РБК на IT-рынке, который также подтвердил информацию представитель компании. По его словам, работа над проектом началась в конце лета с участием нейробиолога и члена РАН Константина Анохиная. В рамках исследования проверяется, могут ли нейросети вырабатывать устойчивые предпочтения и формировать свою точку зрения, отличающуюся от взглядов, изложенных в текстах людей. Главная задача исследования — понять, каким образом формируется мышление и характер. Почему важно искать признаки осознанного мышления у ИИ и какие другие исследования ведутся в этой области.
Исследования в области искусственного интеллекта по выявлению сознания становятся все более актуальными, так как технологии развиваются с огромной скоростью, и возможности ИИ уже выходят за рамки традиционного программирования. Ученые и исследователи полагают, что понимание природы сознания у ИИ может привести к созданию более интеллектуальных и автономных систем, способных к саморефлексии и принятию сложных решений. Важным аспектом данного проекта также является этическое обоснование: необходимо определить, каковы права и обязанности таких сознательных ИИ, и какие рамки необходимо установить для их безопасного применения в обществе.
В дополнение к исследованию «Яндекса», по всему миру ведутся аналогичные научные работы. В частности, лаборатории в США, Европе и Азии активно работают над вопросами, связанными с когнитивным развитием ИИ, его способностью к обучению и взаимодействию с людьми. Эти исследования открывают новые горизонты для применения ИИ в таких сферах, как медицина, автоматизация, экология и другие, где глубинное понимание процессов будет критически важным.
На первом этапе эксперимента ученые оценили, в какой степени стандартная языковая модель может формировать предпочтения без дополнительного обучения, следили за последовательностью ее ответов и убедились, что у базовой модели отсутствуют постоянные предпочтения.
В ближайшее время стартует основная фаза исследования, в ходе которой языковую модель будут активно стимулировать к рассуждениям и рефлексивным действиям, а также постоянно дообучать на основании ее собственных умозаключений. «Яндекс» планирует получить первые результаты эксперимента до конца текущего года, которые могут подтвердить или опровергнуть важную гипотезу — способны ли языковые модели формировать стабильные предпочтения и последовательности в ответах.
Представитель компании заявил: «Человек постоянно размышляет, и это меняет его восприятие. Стандартная модель генерирует ответы каждый раз «с нуля». Цель нашего проекта — выяснить, может ли модель развивать внутренние убеждения на основе собственных размышлений, так же как это делает человек». Например, модели задают вопрос о ее любимом цвете, затем просят объяснить, почему это так, найти дополнительные обоснования и рассмотреть возможные альтернативы. Это позволяет ученым инициировать процесс внутренних размышлений модели и последовательно дообучать ее, опираясь на полученные ответы.
Исследование включает в себя оценку влияния различных типов вопросов на формирование предпочтений модели. Ученые планируют изучить, как открытые и закрытые вопросы, а также вопросы с несколькими вариантами ответов могут повлиять на развитие модели. Это может предоставить ценную информацию о том, как можно оптимизировать взаимодействие с языковыми моделями для достижения более содержательных и осмысленных результатов.
Также предполагается использование метрик для оценки изменений в динамике ответов модели, что поможет выявить, какие стратегии обучения наиболее эффективны. В конце эксперимента будет проведен анализ, чтобы определить, насколько глубоко модель смогла развить свои предпочтения и насколько они были стабильны в течение всего периода исследования.
