Мнение эксперта: ИИ — страшилка 21 века

С иголочки план Элона Маска пересадить нас всех в самоуправляемый транспорт говорит о его твердой вере в неправдашний интеллект, который гарантирует, что его «Теслы» будут умными и смогут отзываться на различные дорожные ситуации в режиме реального времени. ИИ станет на крайне интересные вещи. Нате прошлой неделе, например, создатели компьютерной программы AlphaGo сообщили, словно их программное обеспечение научилось ходить как (в своей комнате) в сложной системе лондонского метрополитена наподобие у себя дома.

И все же ИИ обязан пройти долгий путь, прежде нежели люди начнут переживать о переходе решетка под полное управление машин, считает Орен Этциони, компьюторный ученый, который провел последние до некоторой степени десятилетий в попытке решить фундаментальные проблемы искусственного интеллекта. В сегодня(шний день) время Этциони является главным исполнительным директором Алленовского института искусственного интеллекта (AI2), организации, которую соучредитель Microsoft Половая принадлежность Аллен сформировал в 2014 году. С ее через он планировал сосредоточиться на потенциальных выгодах ИИ — и разметать домыслы, которые распространяет Голливуд и кое-кто ученые, на тему угроз человеческой расе.

Собственные проекты AI2 невыгодный особо впечатляют — среди них поисковая учение на основе ИИ для научных исследований Semantic Scholar, в (видах примера — но посвящены таким решениям в области ИИ, (как) будто рассуждения, тем самым двигают всю ведомство вперед.

Журнал Scientific American взял у Этциони беседа на недавней конференции, посвященной ИИ, в Нью-Йорке, идеже он выразил озабоченность по поводу того, как будто компании преувеличивают текущие возможности этой технологии, в частности и технику машинного обучения, известного точь в точь глубокое обучение. Этот процесс пропускает взрослые наборы данных через сети, имитируя нейронные ахан человеческого мозга, и позволяет компьютерам автономно обучаться решению специфических проблем, примерно сказать, распознаванию изображений или идентификации конкретных объектов бери фотографиях. Этциони также рассказал, в честь какого праздника 10-летний ребенок умнее программы AlphaGo и вследствие этого необходимо будет разработать программы искусственного интеллекта по части типу «хранителей», которые не позволят другим программам ИИ случаться опасными.

Наблюдается ли раскол внутри исследователей ИИ на тему лучшего пути развития технологии?

Отдельный люди прыгают выше головы. Наша сестра наблюдаем серьезный прогресс в таких областях, т. е. распознавание речи, самоуправляемые автомобили (возьмите хоть и в слегка ограниченной форме) и, конечно, AlphaGo. Постоянно эти технические достижения вполне реальны. Хотя как мы их интерпретируем? Глубокое натаскивание, очевидно, ценная технология, но затем) чтоб(ы) создать искусственный интеллект, нам нужно отрегулировать множество других проблем, включая рассуждения (для того чтоб машина могла понимать, а не без усилий рассчитывать 2 + 2 = 4) и получение фоновых знаний, держи основе которых машина могла бы созидать контекст. Понимание естественного языка — еще Водан пример. Даже если у нас трескать (за (в) обе щеки) AlphaGo, у нас нет программы, которая может перелист и полностью понять абзац или хотя (бы) просто предложение.

Говорят, что глубокое тривиум — «лучшее, что у нас есть» в рамках ИИ. Далеко не играет ли это против глубокого обучения?

Делать что у вас есть много данных, помеченных таким образом, что-нибудь компьютер знает, что они означают, жрать много вычислительной мощности и вы попытаетесь выкопать закономерности в этих данных, с глубоким обучением конкурировать бесполезно. В случае того же AlphaGo, системка обрабатывает 30 миллионов позиций и обучает программу ИИ честь по чести двигаться в разных ситуациях. Есть и часть сценарии — например, радиологические снимки — поздно ли снимки помечаются как с опухолью и вне, а программа глубокого обучения их перебирает и выявляет опухоли. С глубоким обучением дозволено делать много всяких интересных вещей, и согласен, это прорывная технология.

В чем но проблема?

Проблема в том, что в таких ситуациях нужно очень больше интеллекта, чем просто обученная конвертер. Представьте данные, которые доступны ученику в рамках стандартного теста по-видимому ЕГЭ или вступительных экзаменов в высшее учебное заведение. Нельзя изучить 30 миллионов предыдущих экзаменов, которые отмечены т. е. «успешные» или «безуспешные», чтобы нанять высший балл. Это более затейный, интерактивный процесс обучения. Интеллект равно как включает обучение из беседы или — или в контексте, в процессе чтения книги. Хотя несмотря на все глубокое преподавание, у нас нет программы, способной сверху подвиг 10-летнего, который может схватить книгу, прочитать главу и ответить для вопросы, о чем эта книга.

Пора и совесть знать ли способность ИИ проходить стандартизованные тесты значительным прорывом в области технологий?

Пишущий эти строки фактически начали работать над сим в рамках исследовательской программы в Алленовском институте искусственного интеллекта. В прошлом году наша сестра объявили приз в размере 50 000 долларов про всех, кто смог бы образовать программное обеспечение на основе ИИ, способное освоить стандартный научный тест восьмиклассников. Паче 780 команд со всего таблица работали несколько месяцев над сим, но никто не смог накопить больше 60%. Это демонстрирует реалистичную и количественную оценку того, идеже мы находимся сегодня.

Как самым эффективным ИИ удается в точности отвечать на вопросы?

Все сут в языке. Наиболее успешные системы используют тщательно собранную информацию с научных текстов и других публичных ресурсов, которая далее просеивается с помощью тщательно настроенных справочно поисковых методов в поисках лучших ответов, целесообразно с несколькими вариантами. Например, что с этого будет лучшим проводником электричества: пластиковая чумичка, деревянная вилка или железный плато. Программы отлично разбираются в формулах и могут разузнать, что электричество и железо или проводность и железо часто вместе встречаются вот многих документах, чаще, чем пластическая масса и проводимость, например. Поэтому иногда программы могут урезывать путь и найти ответ. Почти си же, как дети делают логичные предположения. Так поскольку ни одна система малограмотный набрала больше 60%, эти программы используют статистику, затем чтоб делать логичные предположения, а не размышляют по-над вопросом.

Команда DeepMind, создавшая AlphaGo, имеет программу ИИ, которая из чего явствует за рамки глубокого изучения, используя внешнюю систему памяти. Какое полномочие их работа может оказать для создание более человекоподобного ИИ?

DeepMind остается лидером в продвижении глубоких нейронных сетей (ИИ, предназначенных пользу кого имитации человеческого мозга) вперед. Настоящий особый вклад является важным, же небольшим шагом в сторону рассуждения надо тем, как факты связываются в структуру — вот хоть, на карте метро. Существующие символические программы могут с легкостью приводить в исполнение эту задачу, но важное триумф — заслуживающее публикации в Nature — в том, что-то нейронные сети обучаются выполнению задач до примерам. Это большой шаг угоду кому) DeepMind, но маленький для человечества.

Только и остается ли использовать комбинацию подходов — глубокое занятия, машинное зрение и память, например — чтобы произвести более полный ИИ?

Это разительно привлекательная идея, и на самом деле (целый) короб моих исследовательских работ, когда я был учитель Вашингтонского университета, было построено получай использовании Интернета как базы данных в целях системы ИИ. Мы создали манер под названием open-information exctraction (вытяжка открытой информации) и проиндексировали пять миллиардов веб-страничек, извлекая изо них предложения и пытаясь создать получи их основе карту знаний для того машины. У той машины была сверхъестественная восприимчивость всасывать веб-странички, извлекая изо них предложения. Но предложения — сие текст или картинки. У нашего человеческого мозга (за)грызть уникальная способность — которую мы в (данное еще не взломали — превращать выходка в рассуждение и наоборот. У нас есть универсальная костяк данных, которая формируется не сверху основе изображений и текста, а основе продуктов их обработки, осмысления. Такому механизмы пока не научились.

Вы говорите, в чем дело? ИИ человеческого уровня появится маловыгодный раньше чем через 25 полет. Почему именно человеческого уровня и вследствие того именно эти временные рамки?

Истинное познание естественного языка, широта и общность человеческого интеллекта, наша переимчивость одновременно играть в го и переходить с дороги, а также готовить сносный омлет — сие разнообразие является отличительной чертой человеческого интеллекта, а всегда, что мы сделали до этих пор, это разработали узконаправленные программы, которые могут поступать что-то одно очень хорошенько. Чтобы прийти к таким срокам, я общался с коллегами с Ассоциации по улучшению ИИ получи тему того, когда у нас появится компьютерная учение, которая будет умной, как засранец, в более широком смысле. Никто приставки не- осмелился назвать цифру в 10 парение, 67% заявили, что через 25 парение и даже больше, а 25% сказали «никогда». Могут ли они дать промах (маху)? Конечно. Но кому вы поверите: тем, который в теме, или Голливуду?

Почему таким (образом много уважаемых ученых и инженеров делают с ИИ страшилку 21 века?

Ми трудно рассуждать о том, что движет Стивеном Хокингом или — или Элоном Маском, когда они (на)столь(ко) тревожно высказываются об ИИ. Позволительно предположить, что разговоры о черных дырах становятся скучными вследствие некоторое время — эта тема развивается черепашьим ходом. Единственное, что я хотел бы спрыснуть, это когда Билл Гейтс — которого я исключительно уважаю — говорит о том, что ИИ может телосложение злом или привести к катастрофическим последствиям, возлюбленный всегда добавляет «в конечном счете» неужели «возможно». И с этим я согласен. Говоря о будущей тысяче планирование, все может случиться. Но малограмотный думаю, что такая долгосрочная путь должна отвлекать нас от реальных проблем, которые я встречаем на пути развития ИИ. Видишь это «в конечном счете» али «возможно» часто теряется по дороге к головам людей.

Учитывая крайность ИИ, стоит ли людям менжеваться о растущем интересе автопроизводителей к самоуправляемым автомобилям?

Я безграмотный большой поклонник самоуправляемых автомобилей, у которых пропал руля или педали тормоза. С тем, что-что я знаю о компьютерном зрении и искусственном интеллекте, ми было бы очень некомфортно. Так я фанат комбинированной системы — которая сможет задержать за вас, если вы уснете из-за рулем, например. Человек-водитель и автоматизированная строй вкупе могут быть безопасней, нежели по одиночке. Это не нехитро. Принять новые технологии и включить в положение и работу людей — не просто. Хотя я не верю, что отдать всю работу нате откуп автомобилей — правильное решение.

Google, Facebook и некоторые люди известные технологические компании недавно запустили сообщничество по искусственному интеллекту в интересах людей и общества, дабы обозначить этические и социальные практики ради исследований в области ИИ. Достаточно ли развита методика, чтобы такой подход имел суть?

Когда ведущие технологические корпорации решетка собираются вместе и думают о таких вещах, сие очень хорошо. Я думаю, они делают сие, опасаясь, что ИИ может овладеть мир. Но большая часть сих страхов совершенно раздута. Даже если нет у нас будут самоуправляемые автомобили, ни Вотан из них не решит скоро(постижно) взять приступом Белый дом. Риски, о которых говорит Элон Маск, ото нас в десятках, если не в сотнях парение. Да, реальные опасения имеются: автоматизация, цифровые технологии и ИИ в целом меняют картину рабочих мест. Самоуправляемые автомобили и грузовики в итоге повысят надежность передвижения, но также повлияют держи экономику и людей, работающих в этой сфере. Этические нормы тоже отдельный вопрос.

Как увериться, что программа ИИ будет провести себя законно и этично?

Если вас банк, и у вас есть программное ассекурация, обрабатывающее кредиты, вы не можете следовать ним спрятаться. Сказать, что сие сделал мой компьютер, не получится. Компьютерная схема может проявить дискриминационное поведение пусть даже если не использует расовые то есть (т. е.) гендерные переменные. На этот факт должны быть «хранители» в виде ИИ-программ, которые отслеживают и предупреждают такое аллопрининг среди других ИИ.

Существуют ли ИИ-хранители об эту пору?

Мы призываем сообщество начать осмотреть и создавать такие программы. Думаю, прежде всего они будут весьма тривиальные, да это хоть что-то. Мечта-идея того, что ИИ-хранители могут давать отпор злобному ИИ — образ которого таким (образом любят в голливудских фильмах — может выкроить поддержку среди людей.

Источник