Skip to content

27.09.2015

Третий Закон ИИ

Цифровые вычисления — это программы, реализующие некие алгоритмы, которые в процессе самообучения самоусложняются до такой степени, что люди уже слабо понимают, как они работают. 

И даже если нам кажется, что программ нет (как, например, в искусственных нейронных сетях) — это не снимает проблему цифровых вычислений, т.к. мы не понимаем, как работают такие системы при принятии ими решений, а значит мы можем потерять над ними контроль.

Три закона ИИ.

В основе проблемы контроля лежат три главных закона ИИ:

• Первый закон известен, как закон Эшби, который гласит, что любая эффективная система управления должна быть такой же сложной, как и система, которой она управляет.
• Второй закон, сформулированный Джоном фон Нейманом гласит, что определяющей характеристикой сложной системы является то, что она представляет собой собственное простейшее поведенческое описание. Иными словами, простейшей полной моделью организма является сам организм. А попытка свести поведение системы к любому формальному описанию лишь усложняет, а не снижает сложность.
• Третий закон гласит, что любая система, достаточно простая, чтобы быть понятной, не будет достаточно сложной, чтобы вести себя разумно; в то время, как любая система, достаточно сложная, чтобы вести себя разумно, будет слишком сложной для понимания.

Этот третий закон утешает тех, кто считает, что пока мы не поймем разум, нам не нужно беспокоиться о сверхчеловеческом интеллекте, способном, возможно, возникнуть у машин. И значит у человечества пока что нет проблемы с контролем над ИИ, построенным на цифровых вычислениях.
Но в третьем законе есть лазейка — вполне возможно построить что-то, до конца не понимая, как оно работает (чем мир в последнее время активно занимается, все шире внедряя глубокое обучение).
Нам не нужно полностью понимать, как работает мозг, чтобы построить его работающий аналог. Вопрос только, насколько этот аналог будет функционально близок оригиналу.

Единственный вариант решения проблемы контроля — гибридные вычисления —  синтез цифровых и аналоговых вычислений.

/Источник/



« »

Share your thoughts, post a comment.

(required)
(required)

Note: HTML is allowed. Your email address will never be published.

Subscribe to comments