Может ли технология стать настолько сложной, что созданная ею цивилизация больше не сможет ее понять?

Может ли технология стать настолько сложной, что созданная ею цивилизация больше не сможет ее понять? Технологии

Я расскажу вам о том, что существует уже прямо сейчас и чего не может понять ни одна группа самых умных людей в мире.

Нейронные сети – это тип алгоритмы искусственного интеллекта, которые используется каждый день. Например Google использует нейросети, чтобы предоставить вам первоклассные результаты поиска. YouTube рекомендует вам видео с помощью алгоритмов. Беспилотные автомобили используют безумно сложные нейронные сети, чтобы распознать, стоит ли человек на их пути, чтобы вовремя остановиться. Нейронные сети повсюду.

Однако никто не знает как они работают

Представьте себе сложную нейронную сеть, в которую программист вводит миллиард изображений людей и миллиард изображений различных автомобилей (при этом программист объясняет, является ли каждое изображение изображением человека или автомобиля).

А теперь смотрите. Просил ли Google вас идентифицировать изображения дорожных знаков, автомобилей или улиц для его reCAPTCHA, чтобы убедиться, что вы не бот? Если да, то вы стали программистом, сообщающим алгоритму ответ на изображение. По совпадению, Google прямо сейчас разрабатывает собственный беспилотный автомобиль, и вы стали для них бесплатной рабочей силой, помогающей обучать их алгоритмы. Весело, да?

После загрузки миллиардов изображений, алгоритм довольно хорошо предсказывает, является ли изображение автомобилем или человеком. Но мы не знаем, что происходит с данными после того, как они попадают в «черный ящик».

Может ли технология стать настолько сложной, что созданная ею цивилизация больше не сможет ее понять?
Пример многочисленных связей нейронной сети

Это представление нейронной сети (она называется нейронной сетью, потому что она отдаленно напоминает нейронную структуру мозга. По совпадению, мы так же не знаем как на самом деле работает мозг).

Кружки представляют собой «узлы», а линии следуют за данными по мере их ввода до вывода результата пользователю. При этом можно выяснить, что делают отдельные узлы, но полностью алгоритм узнать невозможно.

Такие сверхсложные нейронные сети способны правильно отличать автомобили и человека с точностью 99%. За такую точность приходится жертвовать знанием как же на самом деле обрабатываются данные. С другой стороны можно спроектировать понятный алгоритм, точность которого не превысит 60%.

Итак, отвечая на ваш вопрос в заголовке – это уже произошло

У нас уже есть технология, которую мы не понимаем. Но мы все еще используем ее почти во всех отраслях где можно. Это должно вас немного беспокоить.

Кстати, заглавное изображение публикации тоже нарисовано нейросетью Deep Dream Generator.

Понравилась публикация? Делись с друзьями. А также подписывайся на «LAVNIK.net» в Telegram и в YouTube, чтобы всегда быть в курсе интересных новостей!