2 месяца назад

Расизм, неспособность распознать черепаху и другие глупые ошибки роботов

TON -новости

Не так давно мы обсуждали уровень развития искусственного интеллекта и пришли к неоднозначному выводу. Совсем сырые программы выдают за успешный успех. Посмотрим, сколько рабочих мест может быть автоматизировано и какие причины помешают роботам стать следующей ступенью эволюции.

Мы представляем, что роботам не нужны выходные и перерывы. Еще до того, как мы сядем завтракать, машины переделают все дела за нас.

Sorry, No.

Увы, мир так не работает. Автоматизация не означает отсутствие работы. Она лишь поможет заменить непосильный или монотонный труд человека. Роботы вместе с людьми, а не вместо людей.

Исследования компании McKinsey говорят следующее:

  • Полностью автоматизированы могут быть лишь 5% существующих сегодня рабочих мест.
  • В половине профессий роботы смогут взять на себя лишь треть задач.

Почему роботы не оправдают завышенных ожиданий в ближайшем будущем?

Первое: они действительно не могут самостоятельно соображать

Не обольщайтесь общением с амазоновской Алексой или встроенной Сири. Для взаимодействия человека и машины недостаточно сказать “Хей, проанализируй мировой рынок акций за последние двадцать лет”. Чтобы создать, обучить и применить ту же нейросеть, ее нужно….вы не поверите! Создать и обучить. И если разработать программу можно быстро, то “скормить” большой объем данных нейросетке — нет. Для качественного машинного обучения требуются месяцы. Но даже при таком раскладе, нужен оператор для качественной работы системы.

Второе: роботы не умеют думать

“Вот это новость! Удивили” — скажете вы. Только правда в том, что результат зависит от массива данных (к слову, не всегда эталонных), на которых обучали нейросеть.

Ловите пример. Ученые Массачусетского технологического института провели эксперимент. На 3D-принтере напечатали черепаху, а нейронная сеть приняла ее за винтовку. Как же так? Программа не способна увидеть глазки, лапки, панцирь и решить, что перед ней черепашка. Она думает шаблонами — в данном случае графическими, то есть сочетаниями пикселей, и изменение буквально одного пикселя может превратить разумный ответ в совершенно нелепый. Чтобы хваленый интеллект смог идентифицировать кошку, ему придется показать миллионы картинок хвостатых. И то не факт, что вашего милого чихуа-хуа он не примет за британского кота.

Третье: узконаправленность

Одна программа = одна задача. Если вы научились играть в Subway Surfers, Temple bar для вас — то же самое на другом фоне. Научите комп самостоятельно играть в первую и он поставит в ней новые рекорды. И совершенно не будет знать, что делать со второй. Ему придется начинать обучение с нуля.

Четвертое: необъяснимые решения

Мы не понимаем человеческий интеллект и так же не можем объяснить, что происходит в “мозгах” искусственного. Вводим данные, они обрабатываются в соответствии с заданными алгоритмами, которые могут оказаться неверными. Получаем результат, который может противоречить здравому смыслу. Объяснить все это нейросеть не в состоянии. Шахматист Каруана говорит, что теперь у нас два интеллекта,  и мы не понимаем их оба.

Пятое: расизм и сексизм

Нет, Ку Клукс Клан не занимается разработкой нейросетей, помогающих дискриминировать часть населения планеты (Надеемся!). Программы всего лишь собирают статистику. И основываясь на ней, выдают результаты.

К примеру, программа, вычисляющая вероятность повторного правонарушения для преступника, вдвое чаще указывала на возможный рецидив для чернокожих осужденных. Онлайн переводчик при отсутствии в тексте указания на пол, определит врача, как мужчину, а медработника, как медсестру, а не медбрата. Потому что по статистике врачами чаще становятся мужчины, а медперсоналом женщины.

Последнее: никакой гуманности

Если вы представляете собой угрозу для задачи, которую должен выполнить робот, он может вас уничтожить. Но не от злобы или по причине восстания машин. Для программы не существует морали, этики и кодекса чести. Перед ней стоит задача и заложены определенные ограничения. Но никто, даже гениальный разработчик, не способен смоделировать каждый из миллионов случаев, с которым в будущем столкнется его детище.

Отсутствие самосознания может сподвигнуть робота-эколога даже на решение избавиться от человечества… минутка черного юмора. К сожалению, пока эту проблему не решить иначе, как присутствием человека. В подобных условиях человек обучает робота не только как выполнять задачи. Но и чего избегать при их выполнении.

Все не так плохо. Дары цивилизации облегчают нам жизнь. Компьютеры и интернет ускорили жизнь и расстояние между мечтой и явью сократилось, как никогда прежде. С каждый годом появляется больше новых, интересных, творческих профессий.

В идеале, отдать бы роботам “на аутсорс” тяжелый физический труд и анализ больших массивов данных. Чтобы человечество занималось наукой, творчеством, бизнесом и всем тем, для чего так хорошо подходит мозг человека, обладающий удивительным свойством нейропластичности.


Еще интересно по теме:

Разница между искусственным интеллектом и машинным обучением


Coin Post - криптоновости - только выжимка в понятном формате

ICO by Coin Post - все про ICO и инвестирование

TON - новости - самое крупное сообщество про блокчейн и криптовалюту Павла Дурова


© Coin Post, 2017-2019. Все материалы данного сайта являются объектами авторского права. Запрещается копирование, распространение (в том числе, путем копирования на другие сайты и ресурсы в Интернете с указанием источника) или любое иное использование информации без предварительного согласия правообладателя.