Люди понемногу свыкаются с этой мыслью, пришедшей на смену радужным или пугающим прогнозам скорого создания сверхумных машин.
И хотя алгоритмы могут уже многое (переводить со всех языков, давать полезные советы, сочинять музыку, писать картины, обыгрывать нас в шахматы, водить машину и так далее), они по-прежнему колоссально уступают людям в умении быть разумными. По уму и способности к обучению пятилетние дети, даже не количественно, а качественно превосходят возможности самых мощных суперкомпьютеров.
Если мы пока не можем повторить человеческий разум в машине, мы хотя бы понимаем, почему?
Известнейший французский нейробиолог Станислас Деан объясняет это следующим. Эволюция создала в людях, как минимум, три уникальные качества, которые люди пока что не могут повторить в машинах.
Первое качество — это уникальный по мощности и простоте способ обучения. Его механизм предельно прост: восприятие фрагмента реальности, обработка его и перенесение в мозг.
Второе качество — уникальные статистические «алгоритмы» мозга, постоянно учитывающие неопределенности и вероятности при прогнозировании изменений мира и самого себя на основе запечатленных в мозге фрагментов реальности.
Третье качество — какой-то особый, пока не понятный нам способ обработки символической информации. Машины умею информацию лишь обрабатывать (преобразовывать по заданным правилам). Люди же (даже маленькие дети) умеют информацию извлекать.
Ничего подобного у машин пока нет.
Фрагментов реальности в «мозге» машины нет. Вместо них море двоичных данных, могущих означать что угодно. А машине все равно что это. Она ведь о мире знает лишь что-то одно. Например, шахматный ИИ — про игру в шахматы и ничего больше.
Статистические алгоритмы у машины есть. Но они столь несовершенны, что для выучивания перевода одного нового слова, машине нужно предоставить миллион примеров перевода в разных контекстах. А ребенку хватает и пары примеров. Разница качественная.
Что же до особого умения извлекать информацию, то его вообще нет у машин. Их алгоритмы умеют лишь распознавать паттерны. Подобный процесс есть и у людей на первом этапе восприятия (например, восприятие зрительных образов). Но это работает только в течение первой четверти секунды и, по сути, является бессознательным процессом обработки информации в мозге.
Ну, а после первой четверти секунды идет совсем иной процесс: уже не обработка, а извлечение информации. Мы извлекаем из мира не только неявную информацию, как это делают нейронные сети, но и явную информацию, которой мы можем делиться с другими в форме символов, которых раньше не было в нашем языке.
Stanislas Dehaene, «How We Learn: Why Brains Learn Better Than Any Machine... for Now»