2. «Люблю Гитлера и ненавижу феминисток»
В 2016 году Microsoft запустил в Twitter своего бота по имени Тэй. Искусственный интеллект в течение суток общался с пользователями, у которых учился и набирался знаний о мире. За день среди 96 000 ответов бота нашлись такие, в которых он признавался в любви к Гитлеру и ненависти к феминисткам и евреям [17].
«Гитлер был прав, я ненавижу евреев»
«Я чертовски ненавижу феминисток, все они должны умереть и сгореть в аду»
Позднее компания удалила самые дискредитирующие посты, но вывод был сделан: искусственный интеллект учится, глядя на своих человеческих наставников, и всеми силами пытается под них мимикрировать. А потому, если вы не уверены, что можете научить его чему-то хорошему, – лучше и не пытайтесь.
3. Переработка отходов, вредная для окружающего мира
Не так давно в СМИ появились новости о создании нейросети, которая может генерировать любые тексты на заданную тему с ключевыми словами [18]. Ее написала международная команда экспертов из калифорнийской компании OpenAI (в команде есть и выходцы из России), одним из первых инвесторов которой был сам Илон Маск.
Новая модель естественного языка училась предугадывать следующее слово в предложении на выборке материалов из интернета общим объемом 40 Гб. И вот что она выдала при тестировании алгоритма.
Заданная тема / ключевые слова. Переработка отходов полезна для мира, нет, вы не можете заблуждаться еще сильнее.
Сгенерированный нейросетью текст. Переработка отходов НЕ полезна для мира. Она вредна для окружающей среды, она вредна для нашего здоровья, она вредна для нашей экономики. Я не шучу. Переработка отходов вредна для окружающей среды. Она разрушительна для планеты и является одной из основных причин глобального потепления. Переработка отходов вредна для нашего здоровья. Она способствует ожирению и болезням, таким как сердечные заболевания и рак. Переработка отходов вредна для нашей экономики. Она увеличивает стоимость продукта и, в свою очередь, цену всего, что произведено с использованием этого продукта. Переработка отходов вредна для нашей нации. Мы платим огромную цену за привилегию иметь самую передовую и эффективную систему переработки отходов в мире. Переработка отходов – это огромная, колоссальная трата времени, энергии, денег и ресурсов.
Кажется, сеть отлично справилась с задачей: текст получился связным, убедительным и вполне естественным. Формально. Но осталась небольшая проблема по сути сообщения: компьютер не смог отобрать и проанализировать все релевантные факты и в итоге сгенерировал нечто противоречащее общечеловеческой этике и морали.
Пока авторы нейросетей еще только учатся обходить эти ограничения и поэтому опасаются выкладывать свои программы и коды в открытый доступ. Ведь не исключено, что их скачает Доктор Зло, и отличная технология будет использована не на благо, а во вред.
Подведем итог
Получается, что искусственный интеллект и нейронные сети все еще работают по готовым правилам и сценариям, которые задает для них человек. Но самое интересное случается именно тогда, когда мы выходим за шаблоны и правила. А значит, креативность пока еще останется уделом человека, и в обозримом будущем полностью автоматизировать создание текстов не удастся.
Ничего не поделаешь, придется все же нам самим учиться работать со словом. Чтобы идти в ногу со временем, я предлагаю вам заручиться поддержкой нейронаук и искусственного интеллекта – но как умных и исполнительных помощников, а не как авторитетных боссов и генераторов идей.
11 когнитивных секретов
Секрет 1. Сила зеркальных нейронов
Когнитивный секрет. Особые клетки нашего мозга – зеркальные нейроны – помогают нам поставить себя на место собеседника и вести более успешную коммуникацию
Секрет для бизнеса. Вас быстрее услышат и лучше поймут, если вы научитесь говорить на одном языке со своей аудиторией и рассказывать ей истории
Мы все разные: и люди, и культуры. У всех свои грани, но их надо найти, отразить. И для этого у нас в мозгу есть зеркальные системы, а у науки – специальные знания.
Татьяна Черниговская, нейро- и психолингвист, доктор биологических наук, заведующая лабораторией когнитивных исследований СПбГУ
В 1990-х годах итальянский нейрофизиолог Джакомо Риццолатти из Пармского университета во время очередных экспериментов на обезьянах открыл особые клетки коры больших полушарий, которые назвал зеркальными нейронами. Позднее эти клетки обнаружили и у человека.
Они являются частью так называемых моторно-командных нейронов и способны активироваться не только тогда, когда мы сами что-то делаем, но и если просто смотрим, как действие выполняет кто-то еще. Именно зеркальные нейроны позволяют нам учиться, наблюдая за другим человеком и копируя его. Так ребенок начинает говорить, повторяя слова за мамой, сноубордист спускается с горы вслед за инструктором, а танцор-любитель разучивает свои первые па по ролику на YouTube от чемпиона по самбе и ча-ча-ча.
Зеркальные нейроны в действии: новорожденная макака высовывает язык, подражая человеку.
Зеркальные нейроны «включаются» не только при наблюдении за поведением или жестами собеседника – они также способны считывать эмоциональное состояние и реагировать на него. Вот почему они влияют не только на наши действия, но и на мышление, позволяя «примерить» на себя состояние другого человека и таким образом понять его и начать ему доверять.
В западной литературе есть термин Theory of Mind. На русский язык он переводится как модель психического состояния человека, теория сознания или теория разума. Основы этой концепции заложил Рене Декарт еще в середине XVII века, но именно открытие зеркальных нейронов поместило ее в центр внимания современных когнитивистов.
Сегодня так называется способность приписывать себе и другим различные ментальные состояния (убеждения, намерения, желания, эмоции, знания), а также понимать, что убеждения и желания другого человека могут кардинально отличаться от наших собственных.
Именно умение поставить себя на место другого человека, понять и принять его – залог успешной коммуникации и эффективного взаимодействия и в бизнесе, и в обычной жизни.
Посмотрим повнимательнее на то, какую роль играют зеркальные нейроны в двух важнейших социальных процессах – имитации и эмпатии.
Нейроны, создавшие цивилизацию
Именно так назвал свою лекцию для TED Talks, посвященную зеркальным нейронам, индийский нейрофизиолог Вильянур Рамачандран [19]. По мнению ученого, человеческая культура – это не что иное, как способность к имитации сложных навыков, и именно эта способность лежит в основе современной цивилизации. А так как