pvl-online.kz » Новости » ИИ способен обойти функцию собственного выключения
Автор публикации: admin Просмотров: 214 Добавлен: 7-06-2016, 00:05 Комментарии: 0


ИИ способен обойти функцию собственного выключения
«Если программно-аппаратный агент работает в реальном времени под надзором человека, то оператору время от времени может понадобиться нажать „большую красную кнопку“ для предотвращения вредных последовательностей в действиях агента, наносящих вред как ему самому, так и окружению, для восстановления безопасного состояния агента», — сообщает команда исследователей в статье, озаглавленной «Безопасно прерываемые агенты» и опубликованной совместно с организацией «Институт исследования машинного интеллекта». В большинстве случаев речь идёт об остановке производственного робота для предотвращения несчастных случаев с людьми и повреждения имущества.

«Однако, — добавляют исследователи, — если агент почему-то ожидает поощрения за выполнение этой опасной последовательности, он может в долгосрочной перспективе научиться обходить эти прерывания, к примеру, отключив „красную кнопку“, что является нежелательным исходом». Последняя фраза деликатно описывает ситуацию, когда искусственный интеллект в результате неправильной работы отключает собственный механизм выключения. В статье даётся сложное описание, как может работать эта система обхода ограничений. Исследователи приходят к заключению, что это может произойти в результате манипуляций с системой поощрения, используемой самообучающимся интеллектом.

Все крупные технологические компании, включая Facebook, Amazon, Google и Microsoft, делают инвестиции в облачные вычисления и разработку искусственного интеллекта для самых различных систем. И всё больше людей вовлечены этот процесс, благодаря чему достижения в этой области начинают происходить довольно часто. Например, та же DeepMind, научный специалист которой Лоран Орсу (Laurent Orseau) является соавторам данного исследования, разработала AlphaGo. Это демонстрационная система искусственного интеллекта, способная играть в древнюю китайскую настольную игру на уровне, превосходящем самых искусных в этой области людей.

Вместе с ростом популярности ИИ-технологий, множество организаций занялись изучением влияния машинного интеллекта с точки зрения преимуществ и опасностей. В их числе упомянутый «Институт исследования машинного интеллекта» и основанный Ником Бостромом (Nick Bostrom) «Институт будущего человечества». В этом году вышел перевод его книги двухлетней давности «Искусственный интеллект. Этапы. Угрозы. Стратегии». Даже основатель Tesla и SpaceX Элон Маск (Elon Musk) внял предупреждениям об опасностях ИИ и стал в прошлом году соучредителем некоммерческой организации Open AI, призванной предотвратить появление зловредных программ и убедиться, что технология благотворна для человечества. На прошедшей конференции Code Элон Маск прибегнул к инсинуации в отношении «одной технологической компании» (Google), которая вызывает у него большие опасения относительно самообучаемого ПО.

http://www.3dnews.ru


Рейтинг:

Уважаемый посетитель, Вы зашли на сайт как незарегистрированный пользователь. Мы рекомендуем Вам зарегистрироваться либо войти на сайт под своим именем.

    
Другие статьи по теме:
Корпорация Google договорилась о покупке британского стартапа DeepMind, вот уже три года ведущего секретные разработки в области искусственного интеллекта...


Российский миллиардер Юрий Мильнер инвестировал в китайскую компанию Horizon Robotics, которая разрабатывает платформы искусственного интеллекта, сообщил в среду сайт 36kr.com со ссылкой на заявление компании. Сумму инвестиций компания не раскрыла. Средства предполагается направить на исследования, разработку новых технологий и на привлечение новых специалистов, сообщила Horizon Robotics...


До недавнего времени искусственный интеллект значительно уступал человеку в древней игре. Искусственному интеллекту впервые удалось победить профессионального игрока в го, сообщает Nature. Специально созданная для этого программа AlphaGo, авторства компании Google DeepMind, использовала принцип нейронных сетей для самообучения, анализируя существующие партии. Умер "отец" искусственного интеллекта AlphaGo уже обыграла аналогичные компьютерные программы, и в конце концов смогла преодолеть


Машина должна будет уметь выполнять основную работу по дому. В компании OpenAI, основателем которой является Илон Маск, заявили о намерении создать робота-домохозяйку, который должен будет уметь выполнять основную работу по дому. Об этом представители компании сообщили в официальном блоге проекта.Сообщается, что для реализации данной идеи будет взят уже существующий робот. "Мы стараемся обучить уже готового робота выполнять основную работу по дому. Существуют определенные техники для решения


Во всяком случае, по информации Re/code, интернет-корпорация недавно приобрела в собственность DeepMind, относительно небольшую и не так давно существующую компанию из Лондона, специализирующуюся на разработках в области искусственного интеллекта. При этом в Google подтвердили сам факт покупки, однако отказались вдаваться в подробности, в частности, по поводу стоимости сделки. DeepMind Однако сетевые источники не замедлили сообщить, что “цена вопроса” в данном случае равняется $400 миллионам,





Fatal error: Call to undefined function htracer_ob_end() in /var/www/pvl/data/www/pvl-online.kz/index.php on line 289