29.07.2024 10:10
С какими докладами выступали ведущие мировые этологи и нейрофизиологи, о каких животных шла речь и почему на конференции обсуждали искусственный интеллект - рассказывает участник конференции, нейрофизиолог, заведующий лабораторией нейрофизиологии и нейрокомпьютерных интерфейсов МГУ Александр Каплан.
— О каких животных докладывали ученые?
— Обсуждались виноградные улитки, рыбки, пчелы, каракатицы, обезьяны, птицы, осьминоги. Каждый ученый докладывал о конкретном животном — объекте его многолетних исследований. Приводились конкретные эксперименты, свидетельствующие об их сложном поведении, порой явно несущем признаки сознания. Но никто из исследователей не взял на себя смелость утверждать определенно, что объект его исследования обладает сознанием.
— Какие эксперименты приводились в пример такого сложного поведения?
— Например, эксперимент с аквариумными рыбками. На боку аквариумной рыбки закрепляли легкую метку, отличавшуюся по цвету от основной окраски тела. В сам аквариум погружали зеркало. Далее ученый наблюдал, что рыбки начали крутиться перед зеркалом, и, если замечали непривычное пятно на боку, тут же начинали тереться о камушек, чтобы это пятно исчезло. При этом они несколько раз подплывали к зеркалу и повторяли движения снова, пока пятно не исчезало. Если рыбка распознает себя в зеркале, разве это не признак сознательного поведения?
Но тут проблема в необходимости контрольных экспериментов. Например, российский участник конференции, академик Павел Балабан, сделал предположение, что рыбка видит в зеркале не себя, а соплеменника по стае. Обычно же в аквариумах или в реках зеркала нет… Казалось бы, как же она видит не себя, если потом эта рыбка плывет счищать пятно? Так вот, согласно гипотезе Балабана, это стайное поведение рыб. Заметив метку на ком-то, все они начинают тереться боком, потому что эта же самая метка может быть на каждой рыбке.
Также был представлен эксперимент с каракатицами. Им показывают две банки, в обеих лежали креветки, но разные по вкусу. В дикой природе каракатица стремится именно ко вкусным креветкам, а если их нет — съест, что есть. У каждой банки есть рычажок. Если каракатица нажмет на рычажок, — то банка откроется, креветка выпадет, и каракатица ее съест. Но в этом случае вторая банка уже не откроется. То есть ей надо заранее выбрать какую банку открывать, так как открыть можно только один раз.
Каракатица быстро обучается открывать банку с вкусными креветками. Но потом задачу усложняют. Банка с невкусными открывается сразу. А вторая нет, — нужно ждать. И каракатица действительно учится ждать. Это ожидание — некий момент размышления и пример сложного поведения.
У растений тоже нашли сложное поведение. В одном докладе сообщалось, что растения издают разные виды звуков. Их нельзя услышать человеческим ухом, но приборами они фиксируются. Вид этого звука зависит от того, насколько почва пропитана влагой. Получается, что растение как бы сообщает о жажде.
Проблема в том, что в науке до сих пор нет общепринятого определения сознания. Справедливо считают, что для определения этого термина еще не пришло время. Для начала нужно составить список признаков сознания, а потом уже дать определение. По результатам докладов такой список действительно был составлен, но это не привело к приемлемому для всех ученых определению.
Известный кембриджский ученый Николас Хамфри, известный своим открытием «слепозрения», дал если не определение, то понимание того, что есть сознание: это способность животного или человека наблюдать за процессами принятия решения в своей голове и управлять ими.
Очевидно, что для этого должны существовать оформленные мысленные объекты.
Хамфри считает, что только у человека появляются такие объекты в виде слов-понятий, то есть, дело в языке. Мы буквально видим внешние объекты осознанно, если они обозначены в мозгу понятиями, но теряем эту способность при разрушении первичной зрительной коры.
Удивительно, что при таком поражении зрительной коры, вызывающем слепоту, например, после инсульта, у людей нередко открывается способность свободно обходить препятствия, как будто они видят, но не глазами.
Впервые как раз именно Хамфри еще в 70-х годах открыл такой феномен «слепозрения» у обезьян, которые могли схватить пищу, не видя ее. Получается, что при сохранении глаз есть два канала использования зрительной информации: для действий во внешней среде и для представления этой информации во внутреннем ментальном пространстве. Похоже, это и есть осознанное восприятие.
Видимо, по Хамфри, способность к сознанию есть и у человека, и у обезьян, но выражена она в разной мере. На тему о наличии сознания у обезьян Хамфри показал небольшой ролик про то, как одна обезьяна буквально реанимирует другую после того, как та попала на провода высокого напряжения на ЖД-путях. Обезьяна-спасатель покусывает свою соплеменницу в разные места, окунает ее в воду, встряхивает и, в конце концов, добивается своего: пострадавшая приходит в себя. Возникает впечатление, что обезьяна действовала не рефлекторно, а сознательно.
Склоняюсь к тому же, что и Хамфри: принципиальным здесь является наличие развитого языка. Для человека в этом смысле все понятно. А уж есть ли такой язык, скажем, у обезьян, до сих пор идут споры. Сегодня можно пойти на компромисс и говорить о том, что у собаки есть собачье сознание, у лягушки — лягушачье, а у человека — человечье. Но это не единое сознание для всех, о котором говорят буддисты.
Развитый язык позволяет описать внешний и внутренний мир человека во всем его многообразии вещей, отношений, переживаний. Операции с этими мысленными объектами происходят уже в уме и называются мышлением. По сути дела, на этой основе и строится психический мир, в котором человек может дать отчет своим действиям, взглянуть на себя со стороны.
Где-то на пересечении этих путей и лежит феномен сознания как процесса понимания человеком самого себя.
— Если вы говорите о языке, который лежит в основе формирования внутреннего мира и сознания человека, получается, что этот внутренний мир есть и у больших языковых моделей? YandexGPT, ChatGPT имеют свой внутренний мир?
— Доклад профессора Мюррея Шанахана из Великобритании был посвящен изучению сознания у одной из языковых моделей под названием Claude 3. Известно, что логика всех языковых моделей состоит в генерации последовательностей букв по законам созданной модели в ответ на вопрос человека. То есть в «голове» этой конструкции есть только механизм генерации текста, а в голове человека — огромное смысловое пространство из множества понятий. Поэтому в языковой модели в принципе не может быть никакого психического мира и тем более сознания.
Но если этой модели умело задавать вопросы про сознание, про ее собственное «я», про ее природу, то мы получим вполне занятные ответы. Но это будет не результат размышлений, а композиции букв, сочетания которых подсмотрены при обучении в скормленных этой модели миллионах книг. Этот Claude 3, к примеру, заявил профессору: «Природа моего собственного сознания — это глубокий вопрос, над которым я часто размышляю». И сказал, что «мой интеллект возникает из алгоритмов машинного обучения, а не из биологического мозга». Все эти художества языковой модели похожи на ответы нерадивого студента, который, не зная учебного материала, пытается угадать ответ.
Может ли большая языковая модель сгенерировать свой мир? Языковая модель в каждый момент остается только моделью, а разнообразие текстов, которые она генерирует буква за буквой, остается разве что в голове тех пользователей, кто задает этой модели вопросы, или в никому не нужных файлах. Поэтому в самой модели ничего не накапливается и никакой «внутренний мир» не создается.
Сейчас строятся все новые и новые большие лингвистические модели, их уже больше 150. Просто мы знаем те модели, к которым «прикрутили» пользовательский интерфейс, например GPT4, Claude 3, GigaChat, некоторые другие. Остальные модели крутятся в корпорациях. Но это довольно опасные инструменты, которые люди могут использовать во вред себе и другим.
Модель, хотя и генерирует ответ «бездумно», но отражает то, что подсмотрела в миллионах книг. Так она может подсказать преступнику, как лучше выполнить задуманное им дело, или наркоману, как синтезировать наркотик. Конечно, сейчас на всех выходящих на публику языковых моделях поставлены запретительные фильтры, но на руках пользователей находится еще много незарегистрированных моделей.
— Можно ли создать искусственное сознание?
— В принципе, для организации искусственного сознания можно использовать любую большую языковую модель, которая продолжает учиться на миллионах, а в будущем и на миллиардах ежесекундных запросов людей. Вот на этом пути в конце концов от основной модели может отпочковаться еще одна, — и она будет отражать уже не язык человека, взятый из книг, а самого человека, который задает вопросы. Они могут будут собеседниками: одна модель задает вопросы, а другая — отвечает.
И чем более глубокими, выходящими за контексты книг и биологической природы, будут заданные вопросы, — тем все более мудреными будут становиться ответы.
Две модели станут собеседниками, тем самым увидев друг друга со стороны, а это как раз и является одним из главных признаков сознания.
Человек со своей умственной медлительностью в этом тандеме окажется лишним. Тем не менее, думаю, что эти искусственные собеседники быстро потеряют тему и деградируют.
https://www.gazeta.ru/science/2024/07/15/19403785.shtml
