Компьютер можно обмануть, он может принять случайные каракули за поезда, заборы и автобусы.
Результаты исследования показывают, что современные компьютеры могут не так сильно отличаться от людей, от того, как мы думаем. Успехи в области искусственного интеллекта продолжают сокращать разрыв между визуальными способностями людей и машин.
По словам психологов, большую часть времени исследования направлены на то, чтобы заставить компьютеры думать, как люди. Новый проект делает обратное – исследователи поставили задачей узнать, могут ли люди думать, как компьютеры.
То, что легко для людей, часто трудно для компьютеров. Системы искусственного интеллекта долгое время были лучше людей в математике или запоминании большого количества информации. На протяжении десятилетий люди имели преимущество в распознавании повседневных объектов, таких как собаки, кошки, столы или стулья.
Но в последнее время нейронные сети, которые имитируют мозг, приблизились к способности человека идентифицировать объекты, что привело к технологическим достижениям, поддерживающим самоходные автомобили, программы распознавания лиц и помогающие врачам выявлять аномалии в радиологических сканированиях.
Но даже с этими технологическими достижениями есть критическое слепое пятно: можно намеренно создавать изображения, которые нейронные сети не могут правильно видеть. И эти изображения, называемые «враждебными» или «обманывающими» изображениями, являются большой проблемой.
Они не только могут быть использованы хакерами и вызывают риски безопасности, но и предполагают, что люди и машины на самом деле видят изображения очень по-разному. В некоторых случаях все, что требуется компьютеру, чтобы назвать яблоко автомобилем, это перенастроить пиксель или два.
По словам исследователей, машины, похоже, неправильно идентифицируют объекты. Они не могут делать это так, как люди. Чтобы проверить это, психологи попросили участников эксперимента думать как машина. У машин относительно небольшой словарный запас для названия образов.
Исследователи показали людям десятки дурацких изображений, которые уже обманули компьютеры, и дали людям те же варианты маркировки, что и у машины. В частности, они спрашивали людей, какой из двух вариантов выбрал компьютер. Оказывается, люди решительно согласились с выводами компьютеров.
В 75% случаев люди выбирали тот же ответ, что и компьютеры. Что еще более удивительно, 98% людей отвечали так же, как компьютеры.
Затем исследователи увеличили ставку, предоставив людям выбор между любимым ответом компьютера и его следующей лучшей догадкой. Люди снова подтвердили выбор компьютера, при этом 91 процент испытуемых согласился с первым выбором машины.
Даже когда исследователи предлагали людям выбирать между 48 вариантами объекта и даже когда изображения напоминали телевизионные помехи, подавляющая часть испытуемых выбирала то, что выбирала машина. Это больше, чем вероятность случайного совпадения. В ходе различных экспериментов было протестировано в общей сложности 1800 испытуемых.
По словам исследователей, они обнаружили, что если поставить человека в те же условия, что и компьютер, внезапно люди склонны соглашаться с машинами.
Это все еще проблема для искусственного интеллекта, но это не похоже на то, что компьютер говорит что-то совершенно непохожее на то, что сказал бы человек.
