Искусственный интеллект – это не только точность распознавания образов. Алгоритмы должны быть способны сталкиваться с проблемами и продолжать работать.
Имея это в виду, исследователи из Университета Кюсю говорят, что они создали новый способ повышения надежности алгоритмов распознавания лиц — так называемый метод raw zero-shot.
Ведущий исследователь Данило Васконселлос Варгас говорит, что слишком много внимания уделяется точности и слишком мало внимания уделяется тому, как ИИ работает за пределами лаборатории.
«Мы должны изучить способы повышения надежности и гибкости», – говорит Варгас. «Тогда мы, возможно, сможем разработать настоящий искусственный интеллект».
Описанный в статье в научном журнале PLOS ONE, метод raw zero-shot предназначен для оценки того, как нейронные сети обрабатывают неизвестные элементы. Это может принести пользу в понимании того, как генеративные состязательные сети могут быть использованы для победы над биометрическими алгоритмами и другими системами искусственного интеллекта.
«Существует целый ряд реальных приложений для нейронных сетей распознавания изображений, включая самоуправляемые автомобили и диагностические инструменты в здравоохранении», – говорит Варгас, который работает на факультете информатики и электротехники Кюсю.
«Однако, независимо от того, насколько хорошо обучен ИИ, он может выйти из строя даже при незначительном изменении изображения», – говорит он. И, конечно же, качество наборов данных имеет первостепенное значение для правильного обучения алгоритмов машинного обучения.
На самом деле высокоточные алгоритмы иногда нарушаются элементами, которые невозможно обнаружить человеческим глазом.
Чтобы понять проблемы, связанные со сбоями в распознавании изображений, исследователи из Кюсю применили метод raw zero-shot к 12 алгоритмам искусственного интеллекта.
«Если вы дадите изображение ИИ, он попытается сказать вам, что это такое, независимо от того, правильный это ответ или нет», – объясняет Варгас.
«По сути, мы дали ИИ серию изображений без каких-либо подсказок или обучения. Наша гипотеза заключалась в том, что в том, как они отвечали, должна была быть корреляция. Они были бы неправы, но неправы в том же смысле».
Цель исследования состояла в том, чтобы понять, как реагирует искусственный интеллект при обработке неизвестных изображений. Затем этот метод можно было бы использовать для анализа того, почему алгоритмы ломаются, когда сталкиваются с изменениями в один пиксель.
Среди алгоритмов, проанализированных командой Варгаса, Капсульные сети (обычно называемые CapsNet), как сообщается, создавали самые плотные кластеры, что приводило к наилучшей передаче знаний о решении проблем между нейронными сетями.
«Хотя современные ИИ точны, им не хватает надежности для дальнейшего использования. Нам нужно понять, в чем проблема и почему это происходит. В этой работе мы показали возможную стратегию изучения этих вопросов», – добавляет он.
Результаты исследования были получены через несколько недель после того, как Университет Кюсю опубликовал еще одну статью, посвященную биометрии, о распознавании дыхания как возможном химическом биометрическом идентификаторе.
По материалам Biometrics Research Group. Автор Alessandro Mascellino
