Первого сентября 2017 года Владимир Путин посетил Ярославль, где принял участие в форуме профессиональной навигации «Проектория», который проходил с первого по четвёртое сентября. В ходе беседы со школьниками президент ответил на их вопросы и затронул ряд важных тем, в том числе и рассказал про своё отношение к искусственному интеллекту. Цитату президента озвучил телеканал RT, после чего привлёк внимание не только зарубежной прессы, но и главы SpaceX Илона Маска.
Путин предположил, что страна, добившаяся лидерства в этой области, сможет «стать властелином мира» и отметил, что лично ему очень бы не хотелось, чтобы ИИ стал монополией в чьих-то определённых руках, но пообещал, что если Россия добьётся значительных успехов в этой области, то с удовольствием будет делиться своими разработками в этой сфере с другими странами, как уже это делает в других областях науки и технологий.
«Искусственный интеллект — это будущее не только России, это будущее всего человечества. Здесь колоссальные возможности и трудно прогнозируемые сегодня угрозы. Но чтобы не стоять в конце очереди, нужно над этим работать уже сегодня», — приводит цитату президента ТАСС.
Глава SpaceX и Tesla Илон Маск опубликовал у себя в твиттере ссылку на статью The Verge, посвящённую беседе Путина со школьниками, а в комментарии к твиту отметил, что технологическая гонка в разработке ИИ на национальном уровне может стать причиной Третьей мировой войны. В сообщении он упомянул Китай, Россию и другие страны, имеющие серьёзные наработки в области высоких технологий.
Ранее Илон Маск подготовил обращение к ООН, в котором призвал разработать методы регулирования разработки и использования боевых роботов и ИИ, так как они, по его мнению, могут стать серьёзной угрозой для мира в будущем. Свою позицию он аргументировал тем, что сам владеет некоммерческой организацией OpenAI, которая занимается разработкой дружественного и отрытого искусственного интеллекта, а поэтому имеет представление о предмете разговора. Петицию Маска тогда подписали главы различных технологических компаний, но многие аналитики и учёные скептически отнеслись к предупреждению главы SpaceX, отметив, что он отвлекает правительство и разработчиков от куда более важных задач.
Подписчики Маска тоже разделились во мнениях. Многие поддержали его, но некоторые выразили сомнение в том, что Россия обладает достаточным уровнем знаний в области ИИ, отметив, что если кто и добьётся лидерства, то уж никак не Россия, а Китай. Некоторые не стали воспринимать твит Маска серьёзно и начали постить гифки из Терминатора и кидать ссылки на российского робота Фёдора, который научился стрелять с двух рук.
Позиция Илона Маска понятна, ведь спрогнозировать влияние ИИ на нашу жизнь в будущем довольно трудно, поэтому его опасения в какой-то степени и оправданы. Даже самые мирные и нужные разработки можно превратить в грозное оружие, угрожающее всему человечеству.
Руководители более сотни ведущих мировых компаний в области искусственного интеллекта очень обеспокоены развитием «роботов-убийц». В открытом письме ООН эти бизнес-лидеры, включая Илона Маска из Tesla и основателей гугловской DeepMind – предупредили, что использование технологий автономного оружия может быть принято террористами и деспотами, либо в той или иной степени подвергнется взлому.
Но реальная угроза намного серьезнее – и дело не только в человеческих проступках, но и в машинных. Исследование сложных систем показывает, что они могут вести себя гораздо более непредсказуемо, чем можно сделать вывод из суммы отдельных действий. С одной стороны это означает, что человеческое общество может вести себя совершенно по-другому, чем вы могли ожидать, изучая поведение индивидов. С другой стороны, это применимо и к технологиям. Даже экосистемы простых программ искусственного интеллекта – которые мы называем тупыми, хорошими ботами – могут удивлять нас. Даже отдельные боты могут вести себя кошмарно.
Отдельные элементы, составляющие сложные системы, такие как экономические рынки или глобальную погоду, имеют тенденцию не взаимодействовать простым линейным способом. Это делает эти системы очень трудными для моделирования и понимания. Например, даже после многолетних исследований климата невозможно спрогнозировать долгосрочное поведение погоды. Эти системы настолько чувствительны к мельчайшим изменениям, насколько взрывоопасно на них реагируют. Очень сложно узнать точное состояние такой системы в отдельно взятый момент. Все это делает эти системы внутренне непредсказуемыми.
Все эти принципы применимы к большим группам людей, действующим по-своему, будь то человеческие общества или группы ботов с искусственным интеллектом. Недавно ученые изучали один из типов сложной системы, в которой хорошие боты использовались для автоматического редактирования статей на Википедии. Эти самые разные боты разработаны, написаны и используются доверенными редакторами Википедии, а их базовое программное обеспечение с открытым исходным кодом и доступно для всех. По отдельности они имеют общую цель – улучшать энциклопедию. Однако их коллективное поведение оказалось на удивление неэффективным.
В основе работы этих ботов с Википедии лежат хорошо установленные правила и условности, но поскольку у веб-сайта нет центральной системы управления, нет и эффективной координации между людьми, управляющими разными ботами. В результаты обнаружились пары ботов, которые несколько лет отменяли правки друг друга и никто не замечал. И, конечно, поскольку эти боты никак не учатся, они тоже не заметили.
Эти боты предназначены для ускорения процесса редактирования. Но небольшие различия в дизайне ботов или между людьми, которые их используют, могут привести к массовой трате ресурсов в продолжающейся «войне за редактирование», которая была бы разрешена гораздо быстрее с помощью редакторов.
Исследователи также обнаружили, что боты вели себя по-разному в разных языковых версиях Википедии. Правила, казалось бы, практически одинаковы, цели идентичны, технологии похожи. Но в немецкоязычной Википедии сотрудничество ботов было намного более эффективным и продуктивным, чем, например, в португальской. Это можно объяснить только различиями между редакторами-людьми, которые руководили этими ботами в разных средах.
Боты с Википедии не обладают широкой автономией и система уже работает не в соответствии с целями отдельных ботов. Но Wikimedia Foundation планирует использовать ИИ, которые будут давать больше автономии этим ботам. И это, вероятнее всего, приведет к еще более непредсказуемому поведению.
Хороший пример того, что может случиться, продемонстрировали боты, созданные для разговоров с людьми, когда их заставили общаться между собой. Мы уже не удивляемся ответам персональных ассистентов вроде Siri. Но заставьте их общаться между собой и они быстро начнут вести себя неожиданным образом, спорить и даже оскорблять друг друга.
Чем больше становится система и чем более автономным становится каждый бот, тем более сложным и непредсказуемым будет будущее поведение этой системы. Википедия – это пример работы большого числа относительно простых ботов. Пример с чат-ботами – это пример небольшого числа относительно сложных и изобретательных ботов – в обеих случаях возникают непредвиденные конфликты. Сложность и, следовательно, непредсказуемость растут экспоненциально по мере добавления в систему индивидуальности. Поэтому, когда в будущем появятся системы с большим количеством очень сложных роботов, непредсказуемость их выйдет за пределы нашего воображения.
Самоуправляемы автомобили, например, обещают осуществить прорыв в эффективности и безопасности дорожного движения. Но мы еще не знаем, что произойдет, когда у нас будет большая дикая система полностью автономных автомобилей. Они могут вести себя по-разному даже в пределах небольшого флота индивидуальных автомобилей в контролируемой среде. И еще более непредсказуемое поведение может проявиться, когда самоуправляемые автомобили, «обученные» разными людьми в разных местах, начнут взаимодействовать между собой.
Люди могут адаптироваться к новым правилам и соглашениям относительно быстро, но при этом с трудом переключаются между системами. Искусственным агентам может быть еще сложнее. Например, если «обученный в Германии» автомобиль поедет, например, в Италию, мы не знаем, как он освоит неписаные культурные соглашения, которым следуют многие другие «обученные в Италии» автомобили. Нечто обыденное вроде пересечения перекрестка может стать смертельно рискованным, потому что мы просто не знаем, будут ли машины взаимодействовать, как положено, либо начнут вести себя непредсказуемо.
А теперь подумайте о роботах-убийцах, которые беспокоят Маска и его коллег. Один робот-убийца может быть очень опасен не в тех руках. А система непредсказуемых роботов-убийц? Думайте сами.
Алгоритмы, с помощью которых роботы рассчитывают траекторию своего перемещения из пункта «А» в пункт «Б», существуют достаточно давно. В этом нет ничего удивительного. Однако движение робота в месте, с оживлённым движением пешеходов – задача куда более сложная. Ведь нужно передвигаться согласно общепринятым правилам и нормам, стараясь не мешаться под ногами у людей. Инженеры Массачусетского технологического института разработали алгоритм как раз для таких случаев и успешно протестировали его.
Робот, принявший участие в полевых испытаниях, был оснащён несколькими RGB-камерами, а также сканирующим сенсором LiDAR. Программное обеспечение предусматривало распознавание лиц окружающих людей, чтобы реагировать на их появление в поле зрения робота и отслеживать траектории перемещения пешеходов относительно его текущего места положения. Робот аккуратно прокладывает маршрут, стараясь объезжать статичные преграды и не мешать впереди идущим людям. Средняя скорость его составляет 1,2 метра в секунду.
При этом робот не только следит за препятствиями на своём пути и рассчитывает траектории движения пешеходов, но и старается придерживаться социальных норм, принятых в конкретно взятой стране. В США, как и в России, люди привыкли к правостороннему движению. Поэтому робот старается жаться к правой стороне проёмов и коридоров, которые пересекает. Настройки можно быстро сменить на альтернативные, после чего робот примет за норму передвижение по левой стороне.
Спонсировать проект MIT взялась американская автомобильная компания Ford. Результаты исследований будут обнародованы на предстоящей конференции Института инженеров электротехники и электроники, посвящённой развитию робототехники, которая состоится в следующем месяце.
В сентябре прошлого года корпорация Intel приобрела калифорнийскую компанию Movidius, которая с 2005 года занималась разработкой специализированных процессоров для глубокого машинного обучения и компьютерного зрения. На тот момент инженеры Movidius разработали процессор Myriad 2, который устанавливался в дроны, охранные системы и прочие устройства для слежения и распознавания объектов. Приобретя компанию, Intel получила в свои руки впечатляющий пакет патентов и технологий. И новый процессор Myriad X превосходит предшественника во всём.
Процессор Myriad X впервые включает в себя «нейронный вычислительный движок» (Neural Compute Engine). Из названия сразу становится понятно, что чип основывается на технологии глубокого машинного обучения. В случае, если Intel удастся успешно вывести свой процессор на рынок, множество компаний начнут устанавливать его в дроны, умные камеры и роботов. Другими словами, в те устройства, которые должны в реальном времени обучаться в процессе наблюдения за окружающим миром.
Размер процессора впечатляет – он не больше маленькой монеты. Это позволит устанавливать его даже в очень компактные гаджеты. В плане мощности Myriad X тоже очень неплох: он способен совершать более 4 триллионов операций в секунду (4 TOPS). Предыдущая модель процессора была способна лишь на 1-1,5 TOPS. Если верить Intel, Myriad X также обеспечивает в 10 раз более высокую производительность для одновременного обучения сразу нескольких нейронных сетей.
Попадание роботов в книгу рекордов Гиннесса уже давно перестало быть чем-то экстраординарным. К примеру, не так давно в Китае 1069 одинаковых роботов синхронно исполнили зажигательный танец.
Для постановки рекорда были использованы роботы Dobi высотой 47 сантиметров каждый. Роботы выпускаются китайской компанией WL Intelligent Technology, а управление ими осуществляется при помощи мобильного приложения.
Примечательно еще и то, что этот случай является третьим за прошедший год, когда был установлен новый мировой рекорд в категории «самое большое количество одновременно танцующих роботов».
В апреле прошлого года компания UBTECH Robotics установила рекорд одновременного танца, используя 540 роботов. Через пару месяцев Ever Win Company «заставила» плясать уже 1007 роботов. И вот теперь WL Intelligent Technology побила рекорд еще раз. Танец вы можете увидеть на видео ниже. К сожалению, несколько роботов упало во время выполнения танца, поэтому их участие, к сожалению, не было засчитано.
http://youtu.be/ouZb_Yb6HPg
