[ На главную ] -- [ Список участников ] -- [ Правила форума ] -- [ Зарегистрироваться ]

Искусственный интеллект, вышедший из под контроля

On-line:

Раздел:

БАЛХАШСКИЙ форум / В мире прекрасного / Искусственный интеллект, вышедший из под контроля

Страницы: 1

Автор

Сообщение

Людмила
магистр
Группа: Модераторы
Сообщений: 30551

Добавлено: 06-08-2017 14:08

Социальная сеть Facebook отключила технологию искусственного интеллекта после того, как две виртуальные машины начали общаться на собственном выдуманном языке, который не смогли расшифровать даже инженеры Facebook.

Как всем известно, система Facebook использует чат-боты для общения с живыми людьми, но что-то пошло не так и боты начали обмен данными друг с другом. Сначала они общались на английском, но через некоторое время они перешли на язык, который они сами создали в процессе работы программы.

В СМИ нам удалось найти отрывок диалога, который вели между собой две виртуальные машины.

“Боб: Я могу могуЯЯ все остальное.
Элис: Шары имеют ноль для меня для меня для меня для меня для меня”

Пугает?
Издание “Digital Journal” объясняет этот так: “Системы искусственного интеллекта опираются на принцип «поощрения», то есть продолжают действия при условии, что это принесет им определенную «пользу». В определенный момент они не получили от операторов сигнал поощрения на использование английского языка, поэтому и решили создать свой собственный”.

Изначально у ботов не было установлено ограничение в выборе языка и именно поэтому они сначала общались на английском, а потом создали язык, с помощью которого, они смогли обмениваться информацией быстрее. И ничего в этом сверхъестественного нет.
Стоит ли нам беспокоиться?

Многие специалисты в ИТ сфере все больше опасаются того, что со временим искусственный интеллект будет развит настолько быстро, что боты смогут принимать решения самостоятельно, и станут практически независимыми. Более того, опытные специалисты пока что так и не смогли понять язык, на который использовали боты.

В связи с возникшей ситуацией, глава компании Facebook Марк Цукерберг дискутировал об искусственном интеллекте с основателем SpaceX, Tesla и PayPal Илоном Маском. Закончилось это тем, что Илон Маск призвал власть США усилить меры безопасности и заявил, что ИИ (искусственный интеллект) представляет угрозу для человечества. Ранее об этом говорил британский физик Стивен Хокинг.

Илон Маск, выступая, заявил, что стремительное развитие ИИ – это “наибольшая угроза, с которой сталкивалась цивилизация”. Если мы вовремя не вмешаемся в развитие искусственного интеллекта, то в будущем уже будет поздно. «Я продолжаю бить тревогу, но пока люди сами не увидят роботов, которые ходят по улицам и убивают людей, они не узнают, как реагировать [на искусственный интеллект]«, – сказал Маск.

Что же ответил Марк Цукерберг? Высказывание Маска вызвало раздражение у Цукерберга, а сам он назвал эти технологии «довольно безобидными». «В ближайшие пять или десять лет искусственный интеллект будет делать жизнь только лучше», – парировал Цукерберг.
Где еще используется система искусственного интеллекта?

В прошлом году поисковик Google создал свою систему искусственного интеллекта и внедрил ее в онлайн-переводчик Google Translate. Благодаря такому усовершенствованию, теперь появилась возможность перевода всей фразы целиком, а не просто слов или словосочетаний. Эксперты предупреждают, что в будущем спрос на живых переводчиков будет все меньше и меньше. Но пока Google Translate хорошо справляется только с небольшими и несложными текстами.

Лично наше мнение: Помните те времена, когда квантовый компьютер всего лишь с точностью около 90% мог определять на картинке кота, в то время как 3-летний ребенок мог показать 100% результат? А тут такой прогресс. Сначала это боты начали общаться на английском языке, а потом и вовсе создали свой язык с процессом развития программы. Тут уже стоит задумывать: за или против ты искусственного интеллекта? Мы согласны с Марком Цукербергом и считаем, что эта технология довольно безобидна и лет 10, так точно, будет только помогать человеку. Остается только запомнить это знаменательный день и ждать.

P.S. Возможно у них просто баг в коде.

https://maniya.info/articles/iskusstvennyj-intellekt-vyshedshij-iz-pod-kontrolya/?parent=cb7650ab03de2d2dc5dbe1f87445f55e

Цитировать

Elektra
магистр
Группа: Модераторы
Сообщений: 26964

Добавлено: 13-08-2017 11:21

Мы согласны с Марком Цукербергом и считаем, что эта технология довольно безобидна и лет 10, так точно, будет только помогать человеку.

Я бы тоже не стала б паниковать. Мы общаемся, почему б машинкам не поболтать?))) но задание программистам я бы выдала.

Возможно у них просто баг в коде.

а разобраться и не наводить панику гуру от IT никак не могут?)))))))

Цитировать

Людмила
магистр
Группа: Модераторы
Сообщений: 30551

Добавлено: 13-08-2017 11:23

И не только задание)) А всыпала бы за утечку информации...машинами))))Ишь,разболтались!))))

"Шары имеют ноль для меня..."А ассоциация у неё правильная)) шар на нолик похож)))

Цитировать

Elektra
магистр
Группа: Модераторы
Сообщений: 26964

Добавлено: 13-08-2017 11:27

хмм... а я эту фразу прочитала, как "шары не имеют значения" )))))))

Цитировать

Людмила
магистр
Группа: Модераторы
Сообщений: 30551

Добавлено: 13-08-2017 11:29

Сначала и у меня было так. Потом подумала- она же машина, наверное, она их сравнивает. Что ей ближе? анализ ситуации или просто сравнить ,что на что похоже? Остановилась на последнем))

Цитировать

Elektra
магистр
Группа: Модераторы
Сообщений: 26964

Добавлено: 13-08-2017 11:31

анализ ситуации или просто сравнить ,что на что похоже

странно, я б безоговорочно остановилась бы на первом!

квантовый компьютер всего лишь с точностью около 90% мог определять на картинке кота, в то время как 3-летний ребенок мог показать 100% результат

Цитировать

Людмила
магистр
Группа: Модераторы
Сообщений: 30551

Добавлено: 13-08-2017 11:35

НУ мы только предполагаем, что она "подумала"))) А что там на самом деле)))