Ученые доказали, что компьютеры могут сходить с умаЖуткие предсказания писателей-фантастов сбываются. Похоже, машины в самом деле способны восстать против человечества, и это не сказки из «Терминатора». Ученые выяснили: оказывается, компьютеры сходят с ума. Это обнаружили американские исследователи из Техасского университета.
Получается, что словосочетание «сумасшедший робот» или «сумасшедший компьютер» отнюдь не выдумка тех, кто пишет пугающие рассказы об апокалиптическом будущем нашей техногенной цивилизации. Интересно, что эксперимент был поставлен учеными на одной из перспективных компьютерных технологий, которая, вероятнее всего, будет основой для машин будущего, — на нейронной сети.
читать дальшеИменно эти сети при разработке инновационной техники видятся максимально эффективными.
Следует напомнить, что они представляют собой систему соединенных и взаимодействующих между собой простых процессоров, или, точнее, искусственных нейронов. Технология получила высокую оценку своих способностей в области самообучения и распознавания образов. Известно, что нейронные сети не программируются, а обучаются и умеют анализировать зависимости между входными данными и выходными. Обучившись, сеть даже выявляет ошибочные или искаженные сведения.
Для своих опытов американцы выбрали нейронную сеть под названием Discern. По большому счету исследователи старались выявить механизмы человеческой шизофрении, однако их эксперимент показал, что и машина склонна впадать в безумие. Загружать в нейронную систему можно различные объекты: символы текста, изображения, образцы звуков. Однако ученые вкладывали в систему обыденную информацию вроде той, которую наш мозг получает в жизненных ситуациях.
Информация повторялась тысячи раз по принципу нарастания снежного кома. Согласно существующей теории у шизофреников из-за чрезмерного выброса гормона дофамина мозг запоминает слишком много фактов, которые затем принимают форму бредовых заключений. Что-то подобное и было смоделировано в компьютере. В итоге система стала в буквальном смысле слова нести околесицу, создавая фантастические умозаключения, и даже взяла на себя ответственность за какой-то террористический взрыв.
Как подтвердил РБК daily научный сотрудник лаборатории информационных технологий управления робототехники Санкт-Петербургского института информатики и автоматизации РАН Алексей Бакурадзе, нейронная сеть действительно работает аналогично коре головного мозга: «Подобные сети сходны с человеческим мозгом и по архитектуре. В них есть аналоги таких же связей, какие есть в структуре мозга».
«Если анализировать такую реакцию нейронной сети Discern, то можно допустить, что в ней допущена некая ошибка и сама сеть построена неэффективно, — добавляет ученый. — Отсюда и результат в виде симптомов так называемой компьютерной шизофрении. Конечно, люди порой сходят с ума, но это сопряжено с нарушениями в мозге, в случае с компьютерной системой можно говорить о технической погрешности в архитектуре нейронной сети, тем более что современные сети невероятно сложны и имеют много уровней. Неоптимальная структура не сумела обеспечить самообучение системы, и сеть повела себя как шизофреник».
отсюда rbcdaily.ru/2011/05/11/cnews/562949980221945
Ну что тут можно сказать... Во-первых - что хотели то и получили (всё же целью было смоделировать шизофрению, хотя сама идея моделирования шизы на здоровом "машинном мозге" несколько странная). Во-вторых, возможно, это действительно ошибка в строении подопытной нейронной сети, хотя не думаю. Сам принцип строения и обучения нейронных сетей - это тот же принцип на котором работает человеческий мозг, а уж там запас прочности велик и страховочное перекрытие уязвимостей основательное. Скорее всего проблема в корневой программе на которой основано существование сети Discern, можно сказать - в её подсознании.
Или в самом этом мире. Ведь сама концепция "ученые вкладывали в систему обыденную информацию вроде той, которую наш мозг получает в жизненных ситуациях.Информация повторялась тысячи раз по принципу нарастания снежного кома" - спрашивается, почему мы сами с ума не сходим? Только лишь из-за способности забывать? Но ведь на самом деле человек ничего не забывает, информация хранится в подсознании и может быть вызвана оттуда при необходимости, хотя бы гипнозом. А подсознание анализирует день за днём, выбирая важное, выкидывая кучи информационного хлама в кладовку и помимо нашего участия делая вывод за выводом....
Хех... наше главное сокровище и залог выживания - это не разум, который втравил человечество уже в немало бед и в ещё столько же втравит, а подсознание - продукт миллионов лет эволюции и ещё бог знает чего. Для тех, кого создадим уже мы, нам его не повторить при всём желании, а значит искусственный разум, для которого мы станем богами, либо никогда не обретёт самостоятельности либо свихнётся, а значит - в любом случае обречён...