Машины с искусственным интеллектом вызывают опасение у ученых...

[Max]

Машины с искусственным интеллектом вызывают опасение у ученых...

Искусственный интеллект, который мы ранее видели только в научно-фантастических фильмах, кажется, в последнее время все больше заботит исследователей во всем мире. Опасения связаны с ускорением технологического прогресса в ИТ-индустрии. Из года в год техника становится всё более изощрённой и опасения, что люди могут потерять контроль над сотворенным искусственным интеллектом, несомненно возрастают в кругу ученых. Еще рано говорить о том, что умный суперкомпьютер может создать серьезную угрозу, однако, умные машины уже сегодня в состоянии изменить общество коренным образом, считают ученые. Роботы, которые сами могут открывать двери и находить место подзарядки, компьютерные вирусы, которые сами размножаются, военная техника, которая еще управляется люди, но уже близка к самостоятельному принятию решения о том, когда можно уничтожить противника - все эти современные разработки не дают покоя ученым.

Конференция на эту тему состоялась в феврале этого года. О результатах конференции пока не известно, их обещали опубликовать до конца года, не назвав конкретную дату. Конференция была организована Эриком Хорвицом (Eric Horvitz) - разработчиком Microsoft и президентом Association for the Advancement of Artificial Intelligence (AAAI) и проходила в Калифорнии. В этом месте уже встречались в 1975 году известные биологи, чтобы обсудить воздействия генного исследования. На конференции обсуждался вопрос о том, где должны быть границы, которые обезопасят человечество от потери контроля над машинами.

Источник

 

[Dominick]

Умные машины: чего ожидать человечеству?
03.08.2009 [17:11], Денис Борн

Нашествие, возглавляемое управляемыми искусственным интеллектом машинами. Умные компьютеры. Вирус в смартфоне, способный копировать поведение человека. Смешная футуристика? Ведущие исследователи искусственного интеллекта (artificial intelligence, AI) в течение нескольких последних лет достаточно изучили возможность потенциального скачка в прогрессе AI и теперь готовы дать свое заключение.
До последнего времени исследователи преимущественно занимались бесчисленными базовыми комплексными вопросами, такими как обучение машин различать обычные повседневные предметы. Человекоподобный интеллект у эволюционирующих машин рассматривался как дело далекой и абстрактной перспективы, не подлежащей серьезному обсуждению. Но недавно впервые состоялась конференция Ассоциации развития искусственного интеллекта (Association for the Advancement of Artificial Intelligence, AAAI) с участием 25 ученых, специализирующихся на AI, робототехнике, этике и юриспруденции, которые обсудили сопутствующие передовой сфере науки и техники проблемы. Мероприятие прошло в Менло-Парк, Калифорния. Вдохновение мероприятию придала прошедшая в 1975 году Азиломарская конференция по рекомбинантной ДНК в Калифорнии, где 140 биологов, физиологов и юристов рассматривали возможности и опасности получивших позже распространение технологий синтеза ДНК, не существовавшей в природе. Делегаты тогда предсказали расцвет генетической инженерии, хотя в то время практических наработок, таких как выращивание генно-модифицированных организмов, даже не существовало.
А искусственный интеллект уже проложил себе дорогу. Разнообразные роботы выступают помощниками в уборке помещений, собирают автомобили, а относительно сложные разработки, умеющие принимать решения - участвуют в комплексных действиях. Например, компания Poseidon Technologies продает AI-системы для помощи спасателям в обнаружении тонущих в бассейне людей; Clearflow от Microsoft способствует выбору водителем оптимального пути, анализируя дорожный трафик. Пока подобные системы лишь дают советы или ассистируют людям, но AAAI предупреждает о том, что не так далек тот день, когда машины продвинутся в принятии самостоятельных решений значительно дальше, пусть и в узкоспециализированных областях. Когда они станут повседневностью, преодоления каких барьеров ждать далее, какой эффект они окажут на социум? Не пора ли принять меры предосторожности?

Это лишь некоторые из многих вопросов, обсуждавшихся под председательством президента AAAI Эрика Горвица (Eric Horvitz), главного исследователя подразделения Microsoft Research. Результаты дискуссий были обнародованы 15 июля на Национальной объединенной конференции по искусственному интеллекту (International Joint Conference for Artificial Intelligence, IJCAI) в Пасадене, Калифорния. Все сошлись во мнении, что создание равного человеческому интеллекта принципиально возможно, но относительно сроков появления "умных" андроидов оценки существенно разнятся - ждать человечеству появления "прототерминаторов" осталось от 20 до 100 лет. Участник конференции Том Диттерих (Tom Dietterich) из Орегонского университета в Корвалисе (Oregon State University in Corvallis) отметил, что большинство из ведущихся сегодня работ не направлены на создание человекоподобных машин, но скорее сфокусированы на "ученых-идиотах" - системах с очень узкой специализацией, такой как математика. Была также высказана идея о неповторимости AI, когда машины по цепочке будут способны создавать с каждым шагом улучшающуюся систему. Хотя большинство ученых скептически отнеслись к экспоненциальному росту интеллекта машин в обозримом будущем, ссылаясь на малое количество проектов, в рамках которых может появиться самовоспроизводящаяся электронно-механическая сущность.

Зато в ближайшей перспективе человечество может получить вредоносное ПО, воссоздающее в цифровом формате индивидуальность человека. Поселившись в смартфоне, вирус будет незаметно анализировать текстовые сообщения, электронную почту, дневник и голосовую информацию. Затем программа сможет имитировать некоторые качества личности, производя указанные злоумышленниками действия. Уже сегодня смартфоны достаточно производительны (а запускаемое на них программное обеспечение содержит тысячи строк кода), чтобы стать относительно автономным инструментом совершения преступных действий в цифровом мире. По словам Горвица, однажды вычислительные системы перейдут грань, за которой станут настолько комплексными и непрозрачными, что мы перестанем их понимать. Как предупредить подобное развитие событий, ученые пока ответить не готовы. Единственная положительная новость - по их мнению, ожидать, что у интернета появится собственный "мозг", не стоит.

Источник