Названа самая страшная угроза человечеству

Мы находимся на грани прорывов в робототехнике и искусственном интеллекте (ИИ), которые обладают потенциалом существенно изменить жизнь человеческой расы в лучшую сторону. Эти технологии начали выходить за рамки научно-исследовательских лабораторий, чтобы двигать вперед старые и новые отрасли. Но что произойдет, когда кто-то умрет от руки робота?

Билл Гейтс, Элон Маск и Стивен Хокинг уверенно заявили, что ИИ представляет собой одну из самых глубоких угроз человечеству, передает УКРОП со ссылкой на vesti.lv.

Трудно игнорировать такое заявление, исходящее от одних из самых блестящих умов, живущих ныне. Несмотря на неоспоримые преимущества достижений в робототехнике и ИИ, они указывают на страх перед тем, что у машин появятся когнитивные способности, которые безусловно приведут к глубоким противоречиям с интересами человечества. Эти люди, кажется, приняли реальность, в которой «Терминатор» выходит за пределы большого экрана.

Конечно, в ответ на месседж Билла, Элона и Стивена есть экспертное мнение: мы не обречены на порабощение злобными и неуправляемыми роботами. Да, автономный автомобиль однажды неизбежно убьет человека — но не благодаря акту самоосознания, а из-за ошибки в алгоритме, который неправильно оценит некоторые элементы общей картины.

ЧИТАЙТЕ: Большинство россиян любят серп и молот, но запретили бы герб Украины. ОПРОС

Несмотря на мрачный исход, такая ошибка не будет сильно отличаться от ошибки, скажем, в шахматной программе, которая делает плохой ход, поскольку не учитывает некоторый скрытый нюанс. Конечно, это не смягчит потерю человеческой жизни. Но этот риск ничем не отличается от другого риска, сопряженного с принятием новых технологий — вспомните, сколько людей за всю историю человечества погибли в шахтах, во время испытаний первых самолетов и так далее.

Чтобы лучше оценить такую сложную угрозу, нам придется нырнуть под капот почти всех современных систем ИИ. Как бы невзрачно это на первый взгляд ни звучало, почти любое приложение можно представить просто как задачу оптимизации, которой поручено найти самое эффективное по затратам или самое эффективное по награде решение конкретной проблемы. Нет магии или эмоций в таком классе ИИ. Есть цель — найти оптимальное решение, которое будет соответствовать нашему восприятию интеллекта. К примеру, автономный автомобиль выбирает путь так, чтобы свести к минимуму штрафы риска или пройденное расстояние, и если алгоритм компьютерного зрения видит кошку, переходящую дорогу, то он делает это исключительно потому, что видит миллионы пикселей, которые статистически соответствуют больше кошке, чем чему-либо другому.

Даже системы «глубокого обучения», которые сейчас чрезвычайно популярны, больше относятся к слоям нейронов в структуре мозга, а не к тому, как те «обучаются». В конце концов, несмотря на ряд невероятных применений, под капюшоном этой системы лежит еще одна задача оптимизации, алгоритм, созданный для сбора и обработки данных.

ЧИТАЙТЕ: Специалисты Агентства охраны окружающей среды США случайно слили в реку токсины

Программа, которая определяет содержание изображения, имеет не больше сознания, чем программа, совершающая блестящий шахматный ход или планирующая движение самоуправляемого автомобиля по оживленной улице. Ни одна из таких систем на самом деле не «думает» так, как это делаем мы — она оптимизирует конкретную проблему так, чтобы та соотносилась с намерениями людей в определенной ситуации. И какими бы сложными системы ИИ ни были, пока они выполняют сугубо линейные в глобальном понимании задачи.

Таким образом, хотя смерть от рук роботов и даже от самоуправляемого автомобиля может звучать жутко, мы должны напомнить себе, что сотни тысяч людей погибают в автомобильных катастрофах каждый день. Хотя мы можем найти утешение в том, что человек в настоящее время сидит за рулем каждого автомобиля, статистически это никогда не будет безопаснее, чем когда роботы примут на себя обязанности водителей. И когда преимущества самоуправляемых автомобилей переплюнут факторы безопасности — в том числе эффективность ежедневных поездок, нашего планирования городов, смещение динамики цен при обновлении целых отраслей промышленности — мы будем бояться их не больше, чем персональных компьютеров.

Настоящий риск, связанный с развитием робототехники и искусственного интеллекта, заключается в непреднамеренном их использовании. Точно так же, как есть тонкая грань между ядерной энергией и ядерным оружием, эти достижения в робототехнике и ИИ обещают непредсказуемые возможности злоупотребления: смертельные военные применения, расширение способов шпионажа и взлома точно таких же сложных систем. Поэтому мы должны быть полностью осведомлены об этих рисках и готовы решать связанные с ними вопросы, при этом не забывая о том, какую пользу они могут принести человечеству.

Гейтс, Маск и Хокинг абсолютно правильно поощряют осторожность во время движения вперед. Однако видят угрозу немножко не там, поскольку человеческое намерение остается куда более грозной опасностью, нежели машины, которые оно изобретает. Невообразимые технологии находятся на расстоянии вытянутой руки, когда-то о них можно было лишь мечтать, но главным врагом людей всегда были лишь сами люди.

 РЕКЛАМА



Загрузка…


«загрузка…

ОСТАННІ НОВИНИ

Загадки южноафриканских шариков. ФОТО

Сферы, обнаруженные в шахтах Южной Африки, интригуют исследователей на протяжении десятилетий. ФОТО из tainyvselennoi.mirtesen.ru   По мнению Майкла Кремо и других исследователей доисторических культур, эти сферы являются…


США внесли Русское имперское движение в список иностранных террористических организаций

Это первый случай, когда в список попала организация, проповедующая идею превосходства белой расы. Администрация президента США Дональда Трампа внесла националистическое Русское имперское движение в список…




Украина хочет заключить сделку с Польшей по заробитчанам

Украина может заключить с Польшей договор относительно сезонных работников, чтобы «урегулировать актуальные вопросы пребывания украинских трудовых мигрантов». Как сообщила пресс-служба МИД, об этом шла речь…


Путин опозорится на параде Победы 24 июня

Парад Победы в Москве 24 июня станет позором президента РФ Владимира Путина. Такое мнение высказал российский историк и оппозиционный политик Андрей Зубов. «В любом случае…


Британия выступила против возвращения России в G7 — только гостевая галерка

Британское правительство не поддерживает восстановление членства России в «Большой семерке», заявил в понедельник представитель премьер-министра Бориса Джонсона. При этом он добавил, что страна, принимающая саммит…




Полномасштабное вторжение Путина в Украину остается под вопросом

Вероятность широкомасштабной войны с Россией прокомментировал вице-премьер-министр по вопросам временно оккупированных территорий Алексей Резников. Такое заявление он сделал в эфире одного из украинских телеканалов. По…


«Сумки с наличкой из подпольных казино уезжают в сторону РФ»

Народный депутат Антон Поляков считает, что законопроект №2285-д «О государственном регулировании деятельности по организации и проведению азартных игр» должен способствовать выводу игорного бизнеса из тени….


Коронавирус в Украине идет на спад

В Украине по состоянию на утро вторника, 2 июня, зафиксировано 24 340 случаев заражения коронавирусом, за сутки добавилось 328 больных. Об этом сообщает Минздрав Украины….


НБУ удивил новым курсом гривны

Национальный банк Украины на вторник, 2 июня, по сравнению с предыдущим банковским днем укрепил курс гривни до 26,81 гривень за доллар. Об этом свидетельствуют данные на сайте…



Сім’я «Юзіка» будує будинок під Києвом

Сім’я народного депутата від фракції «Слуга народу» Юрія Корявченкова («Юзік») зводить будинок під Києвом. Про це народний депутат повідомив в електронній декларації про доходи за…


Be the first to comment on "Названа самая страшная угроза человечеству"

Leave a comment