Нейронные компьютеры могут сходить с ума

Жуткие предсказания писателей-фантастов сбываются. Похоже, машины в самом деле способны восстать против человечества, и это не сказки из «Терминатора». Ученые выяснили: оказывается, компьютеры сходят с ума. Это обнаружили американские исследователи из Техасского университета.

Получается, что словосочетание «сумасшедший робот» или «сумасшедший компьютер» отнюдь не выдумка тех, кто пишет пугающие рассказы об апокалиптическом будущем нашей техногенной цивилизации. Интересно, что эксперимент был поставлен учеными на одной из перспективных компьютерных технологий, которая, вероятнее всего, будет основой для машин будущего, — на нейронной сети. Именно эти сети при разработке инновационной техники видятся максимально эффективными.

Следует напомнить, что они представляют собой систему соединенных и взаимодействующих между собой простых процессоров, или, точнее, искусственных нейронов. Технология получила высокую оценку своих способностей в области самообучения и распознавания образов. Известно, что нейронные сети не программируются, а обучаются и умеют анализировать зависимости между входными данными и выходными. Обучившись, сеть даже выявляет ошибочные или искаженные сведения.

Для своих опытов американцы выбрали нейронную сеть под названием Discern. По большому счету исследователи старались выявить механизмы человеческой шизофрении, однако их эксперимент показал, что и машина склонна впадать в безумие. Загружать в нейронную систему можно различные объекты: символы текста, изображения, образцы звуков. Однако ученые вкладывали в систему обыденную информацию вроде той, которую наш мозг получает в жизненных ситуациях.

Информация повторялась тысячи раз по принципу нарастания снежного кома. Согласно существующей теории у шизофреников из-за чрезмерного выброса гормона дофамина мозг запоминает слишком много фактов, которые затем принимают форму бредовых заключений. Что-то подобное и было смоделировано в компьютере. В итоге система стала в буквальном смысле слова нести околесицу, создавая фантастические умозаключения, и даже взяла на себя ответственность за какой-то террористический взрыв.

Как подтвердил РБК daily научный сотрудник лаборатории информационных технологий управления робототехники Санкт-Петербургского института информатики и автоматизации РАН Алексей Бакурадзе, нейронная сеть действительно работает аналогично коре головного мозга: «Подобные сети сходны с человеческим мозгом и по архитектуре. В них есть аналоги таких же связей, какие есть в структуре мозга».

«Если анализировать такую реакцию нейронной сети Discern, то можно допустить, что в ней допущена некая ошибка и сама сеть построена неэффективно, — добавляет ученый. — Отсюда и результат в виде симптомов так называемой компьютерной шизофрении. Конечно, люди порой сходят с ума, но это сопряжено с нарушениями в мозге, в случае с компьютерной системой можно говорить о технической погрешности в архитектуре нейронной сети, тем более что современные сети невероятно сложны и имеют много уровней. Неоптимальная структура не сумела обеспечить самообучение системы, и сеть повела себя как шизофреник».

Читать полностью: http://rbcdaily.ru/2011/05/11/cnews/562949980221945

Зато мозг хорошо смоделировали =).

А вообще всегда не понимал, зачем нам интеллект, которому мы будем особо и не нужны? Он быстро разберется как ему стать самодостаточным и будет нас как тараканов изгонять с планеты. Ну.. я бы так сделал на его месте, т.к. мы будем потенциальным риском для жизни =).

А что это "нейронная сеть"? Это из себя представляет связь клеток или всё таки это сплав металлов? :o

Неважно что она представляет из себя физически. Важна логическая составляющая. Также как без софта ваш компьютер просто груда железа и кремния.

Alecks-ei написал:

А что это "нейронная сеть"?

http://ru.wikipedia.org/wiki/%D0%98%D1%81%D0%BA%D1%83%D1%81%D1%81%D1%82%D0%B2%D0%B5%D0%BD%D0%BD%D0%B0%D1%8F_%D0%BD%D0%B5%D0%B9%D1%80%D0%BE%D0%BD%D0%BD%D0%B0%D1%8F_%D1%81%D0%B5%D1%82%D1%8C

в двух словах - самообучающийся алгоритм. можно даже им некоторые задачки решать... но не очень хорошо. :(

drBatty, Спасибо! Но я надеялся её можно пощупать. :(

Alecks-ei написал:

Но я надеялся её можно пощупать.

можно. только, на самом деле очень мало задач, которые хорошо решаются этим методом. на самом деле, только одна - когда программист сам не знает, как это решить. Иногда помогает, но редко.

Пощупать - в смысле потрогать пальцами рук. smile
Я про материальное, физическое, как яблоко)

ABBYY в своей распознавалке текста использует нейронные сети. Записывайте на диск и щупайте :D

жить страшно стало.
надо срочно звонить Джону Коннору

Alecks-ei написал:

А что это "нейронная сеть"? Это из себя представляет связь клеток или всё таки это сплав металлов? huh

Тут скорее математическая модель используется...

drBatty написал:

можно. только, на самом деле очень мало задач, которые хорошо решаются этим методом. на самом деле, только одна - когда программист сам не знает, как это решить. Иногда помогает, но редко.

Да не так уж и мало на самом деле, просто пока это слабовато развито. %( Модели нейронных сетей (математические и физические) слишком далеки от естественных нейронных сетей, которые в мозге...

Battle Coder написал:

Да не так уж и мало на самом деле, просто пока это слабовато развито.

оно кагбэ слабовато потому, что как узнаешь поглубже задачу, так сразу, ВНЕЗАПНО, оказывается, что есть более простое решение, без всяких НС...