Кажется, наш мир всё больше и больше превращается в какой-то фэйковый рай. Современные технологии уже сегодня позволяют буквально за пару кликов с помощью нейросетей поменять лицо персонажа из фильма, синтезировать голос известного человека таким образом, что его трудно будет отличить от реального.
Этот же искусственный интеллект управляет нашими умными домами, нашими городами и скоро без него уже невозможно будет представить современный мир.
Проблема пока что не в том, что вот-вот появится Сверхразум или «сильный ИИ», который с легкостью будет проходить тест Тьюринга. Настоящая проблема в том, что мы считаем эти алгоритмы совершеннее, чем они есть на самом деле. Мы слишком доверяемся и дадём слишком много автономии таким системам, не будучи полностью осведомлёнными об их ограничениях. Да, мы – грешные и ошибающиеся люди, но нас хотят заменить столь же часто ошибающимися машинами, которые не ведают греха просто потому, что не понимают, что это. Как отметил исследователь Педро Домингос в своей книге «Главный алгоритм»: «Люди беспокоятся, что компьютеры станут слишком умными и захватят мир, но реальная проблема в том, что они слишком глупы и уже его захватили».
Гонка по коммерциализации ИИ оказала огромное давление на исследователей по созданию систем, которые работают «достаточно хорошо» в узких задачах. Но в конечном счёте цель развития надёжного ИИ требует более глубокого изучения наших собственных замечательных способностей и нового понимания когнитивных механизмов, которые мы сами используем, чтобы надёжно понимать окружающий мир. Преодоление барьера понимания ИИ, вероятно, потребует шага назад — от всё более крупных сетей и наборов данных обратно к корням отрасли как междисциплинарной науки, изучающей самую сложную научную проблему: природу интеллекта.
В фильме «Терминатор» нас предупреждали, что может быть если алгоритмический разум захватит контроль. Тоже и фильме «Я Робот», и таких примеров много!
Тайм-коды:
00:00 – Дипфейки – что это?
02:43 – Как IT гиганты борются с дипфейками
05:02 – Образовательная онлайн-платформа
06:00 – «Сильный ИИ» не за горами
10:09 – Ни одна система не безопасна
10:57 – Сможет ли искусственный интеллект стать человеком?
