[Перевод] Пылесосы следят за тобой, анон! Скандал с Roomba из-за фото женщины в туалете и новый взгляд на разработку ИИ

Осенью 2020 года фрилансеры в Венесуэле разместили серию изображений на онлайн-форумах, где они общались, обсуждая свои рабочие дела. На фотографиях были запечатлены домашние сцены, в том числе довольно интимные, снятые с низких ракурсов. На одном особенно показательном кадре молодая женщина в бледно-лиловой футболке сидела на унитазе с шортами спущенными до середины бедра.

Все эти изображения были сделаны не скрытой камерой и не человеком, ворвавшимся в чей-то дом. Они принадлежали одной из версий робота-пылесоса iRobot Roomba серии J7. Оказалось, что

Читать далее

Как ИИ автопилотов Tesla и Mobileye обманывают «фантомами»

На RSA Conference 2021 исследователи продемонстрировали, как можно обманывать автопилоты Tesla и Mobileye с помощью «фантомных» изображений.

Читать далее

Хокинг снова выразил свое беспокойство по поводу искусственного интеллекта

Вы обеспокоены тем, что в один прекрасный день роботы станут нашими повелителями? У вас много единомышленников. Известный физик, космолог и автор «Краткой истории времени» Стивен Хокинг (Stephen Hawking) заявил на этой неделе, что роботы на основе искусственного интеллекта смогут вытеснить людей в ближайшие 100 лет.
Выступая на конференции Zeitgeist в Лондоне, Хокинг заявил следующее: «Компьютеры и ИИ превзойдут людей в течение ближайших 100 лет, поэтому мы должны убедиться, что цели машин совпадают с нашими».

Роботы заменят людей в будущем?
Это не первый раз, когда Хокинг говорит об угрозе машинного обучения, искусственного интеллекта и робототехники. В декабре прошлого года ученый заявил, что «развитие полного искусственного интеллекта может означать конец человеческой расы.» В интервью BBC Хокинг сказал, что сегодняшний ИИ не представляет никакой угрозы для человечества, но в будущем роботы с ИИ станут умнее, больше и сильнее, чем их человеческие разработчики. «Проблема в том, что данные технологии развиваются очень быстро. Люди, которые ограничены медленной биологической эволюцией, не смогут конкурировать с машинами и будут ими заменены».

Хокинг также имеет серьезных коллег, которые вместе с ним разговаривают о вреде ИИ.

Прошлой осенью, Элон Маск, генеральный директор автомобильной компании Tesla Motors, а также главный исполнительный директор и соучредитель SpaceX, выступил в Массачусетском технологическом институте с заявлением, что ИИ и все исследования робототехники ведут к опасным последствиям для человечества. «Я думаю, что мы должны быть очень осторожны, говоря об искусственном интеллекте», –  сказал Маск, отвечая на вопросы о состоянии ИИ в MIT. «Если говорить о самой большой угрозе нашему существованию, но это именно искусственный разум, с ним мы вызываем демона…»

LONDON, UNITED KINGDOM - APRIL 30: Stephen Hawking  makes an appearance to show support for the Breathe On UK charity at  on April 30, 2013 in London, England. (Photo by John Phillips/UK Press via Getty Images)

 

Взгляд с другой стороны

Но не все люди в мире технологий и ученые обеспокоены ИИ, как Хокинг и Маск. Много людей склонны думать об ИИ, как просто о мозгах помимо робототехники. Это включает в себя смартфоны, спам-фильтры электронной почты и приложения, которые делают нашу жизнь проще. ИИ далек от создания робота, который может легко учиться и иметь достаточное самосознание, чтобы бросить человека в сторону и взять мир на себя. И разговоры об этих страхах грозят замедлением исследований ИИ, так как некоторые ученые просто боятся надуманных последствий развития умных машин.

Стив Возняк об угрозе искусственного интеллекта

Сооснователь компании Apple Стив Возняк на протяжении всей своей жизни отрицал  искусственный интеллект как угрозу на существование человеческой цивилизации. Однако в недавнем интервью “пресс изданию” Australian Financial Review 64-летний Возняк признал, что некоторые прогнозы начинают сбываться, а человекоподобные компьютеры представляют реальную опасность для человечества. Он даже пошутил: «Кем мы будем: богами, домашними животными или муравьями? Я не знаю».

Компьютеры собираются превзойти людей. Если мы продолжим создавать устройства для облегчения жизни, то в конце концов они станут сообразительнее нас и начнут избавляться от нерасторопных людей, чтобы эффективнее управлять компаниями, — заявил Стив Возняк.

По поводу угрозы искусственного интеллекта уже высказались такие известные личности, как Элон Маск и Стивен Хокинг. Оба входят в организацию под названием «Институт будущего жизни» (Future of Life Institute), которая недавно выступила с открытым письмом с призывом оценить риски, связанные с разработкой искусственного интеллекта (ИИ).

Авторы документа признают не только огромный потенциал ИИ, но и расставляемые им ловушки. В краткосрочной перспективе машинный интеллект, например, может оставить миллионы людей без работы.

Ранее в этом месяце глава электро мобилестроительной компании Tesla Элон Маск заявил, что в ближайшие годы управляемые людьми автомобили могут оказаться вне закона. По его словам, роботы получат преимущество на дороге, а человек за рулем станет «слишком опасным» для участников движения.

Ученые опасаются, что высокоразвитые машины начнут учиться выполнять любую работу и будут постепенно вытеснять человека. Основания для беспокойства есть. Согласно прогнозу аналитической фирмы Boston Consulting Group, к 2025 году количество автоматизированных операций увеличится на 25 процентов. Наиболее ярко этот тренд сейчас выражен в Японии.