TechFusion.ruНовостиImageNet-A: датасет, не подвластный искусственному интеллекту

ImageNet-A: датасет, не подвластный искусственному интеллекту

предсказывать движения

Ученые из Калифорнийского университета в Беркли собрали датасет из почти восьми тысяч картинок, при распознавании которых нейросети ошибаются в 98 случаях из 100. По словам исследователей, база данных под названием ImageNet-A должна стать определяющий при обучении искусственного интеллекта

Искусственный интеллект значительно продвинулся в распознавании изображений: нейросети умеют «оживлять» картинки; устранять недочеты освещенности, шумы и смазанность; подделывать фото; изменять или удалять объекты на изображениях; а также восстанавливать поврежденные картинки. Но не все подвластно алгоритмам, и датасет ImageNet-A тому подтверждение.

Нейросети обучаются на базах данных картинок и снимков, описанных и отмеченных людьми. Так алгоритмы учатся замечать и выделять характерные признаки, классифицировать их и правильно распознавать объекты на изображении. Но существуют картинки, при распознавании которых искусственный интеллект ошибается почти всегда — в 98 случаях из 100.

При этом ошибки случаются с самыми обычными изображениями — для человека в них нет ничего необычного или отличительного, но нейросети всегда ошибаются при работе с ними. На таких фото или картинках присутствует adversarial attack — конфликт категорий и признаков, который сбивает алгоритм с правильного пути. Такие картинки можно создать запланированно, изменив изображение особым образом. Но и случайно подобные снимки получаются слишком часто.

Как утверждают авторы исследования в статье Natural Adversarial Examples, разработчики должны уделить особое внимание этому датасету при обучении систем искусственного интеллекта. Ведь сбой в системе распознавания может грозить самыми печальными последствиями, если она, например, используется в автопилоте или системе безопасности. А с учетом того, что создать подобную «сбойную» картинку может любой, это делает нейросети крайне беззащитными перед преступниками.

Иллюстрация на обложке: pixabay.com