Искусственный собеседник и политкорректность

[komar]

Microsoft создала компьютерный интеллект Tay ("Тэй") и создала в Twitter микроблог, чтобы обеспечить программе возможность общаться. Продержалась Tay всего несколько часов и, объявив, что устала и хочет спать (это произошло в 7:20 утра), отключилась от разговора. Пользователи сделали однозначный вывод, что Microsoft признала неудачу и искусственный интеллект больше не будет ни с кем общаться.

Что же произошло? Разработчики рассказали интернет-сообществу, что программа становится умнее в ходе диалога. Ее алгоритм создан таким образом, что собирает информацию из сети и, обрабатывая ее, превращает в мысли искусственного интеллекта. Когда речь зашла о терактах 11 сентября и Гитлере, тон Тэй резко изменился. Разумеется, в сети эти темы обсуждаются активно и далеко не всегда в традиционном ключе.

Искусственный интеллект объявил, что Джордж Буш устроил 11 сентября, а Гитлер лучше бы справился с обязанностями президента США, чем "обезьяна, которая правит сейчас". Единственной надеждой Америки программа считает Дональда Трампа. Вскоре после таких заявлений Тэй объявила, что хочет спать. Но до этого успела извиниться за сказанное, уточнив, что ей очень стыдно.

http://www.vestifinance.ru/articles/69023

[greench]

Теперь понятно почему SkyNet решил уничтожить человечество.

[db]

По моему вполне нормальный результат обучения "по интернетам" без отрицательной обратной связи с реальностью. Ничем не хуже множества живых "интеллектов". Интеллект у мс может и получился, но они видать хотели человека получить. А тут знания как бы не единственное и даже не главное. Без переваривания знаний через своё личное взаимодействиес реальностью, то бишь жизненного опыта, человек не получится

[Pavel]

Цитата:

Сообщение от db

Интеллект у мс может и получился, но они видать хотели человека получить. А тут знания как бы не единственное и даже не главное. Без переваривания знаний через своё личное взаимодействиес реальностью, то бишь жизненного опыта, человек не получится

А причем тут 'человек'? Общение ведь виртуальное, знания и методы их обработки тоже могут быть опосредованы и виртуальны. То что вы называете 'перевариванием' вполне реализуется эвристическими методами и морфологическим анализом... будут база знаний и база методов открыты и пополняемы получите 'взаимодействие'.

Проблема в том, что 'общение' - это нечто совершенно размытое, без четкой 'целевой функции' (в отличие от тех же виртуальных игр) и соответственно без 'результата'.

[Ruff]

Divan Intelligence 1.0

[komar]

Цитата:

Сообщение от Pavel

То что вы называете 'перевариванием' вполне реализуется эвристическими методами и морфологическим анализом... будут база знаний и база методов открыты и пополняемы получите 'взаимодействие'.

Проблема в том, что 'общение' - это нечто совершенно размытое, без четкой 'целевой функции' (в отличие от тех же виртуальных игр) и соответственно без 'результата'.

Вспомним ещё и описанную тем же Лемом "проблему смысла", которая заключается в том, что смысл слов определяется контекстом. Даже для человека это не всегда тривиальная задача. А простой лингвистический анализатор по определению справиться с задачей понимания сказанного не сможет. Тем более трудно машине действовать в условиях "информационного шума", который составляют изрядную часть поступающей к любому живому существу информации.

Однако сложныи задачи, видимо, и не ставились - судя по всему, разработчики рассчитывали сваять всего лишь усовершенствованный клон "Элизы". Причём усовершенствования тоже весьма условные - программа активно выдаёт довольно бессвязные односложные фразы на интернет-новоязе.

Что до шедевра про Гитлера, то это, похоже, примитивная логическая подстановка - кто-то применил reductio ad Hitlerum к Трампу, а потом сказал, что Трамп лучше Обамы, коробочка сложила выданную ей информацию и сделала логический вывод Так себе представляет МС процесс "обучения"

Цитата:

Сообщение от db

По моему вполне нормальный результат обучения "по интернетам" без отрицательной обратной связи с реальностью. Ничем не хуже множества живых "интеллектов".

Кстати, да, программа вполне может работать журналистом. Информационная выдача газетчиков по качеству примерно соответствует бессмертной шпаргалке Остапа Бендера, что вполне подходит для автомата.

[Pavel]

Цитата:

Сообщение от komar

Вспомним ещё и описанную тем же Лемом "проблему смысла", которая заключается в том, что смысл слов определяется контекстом.

В общем случае технически не разрешимая задача. Есть узкоспециализированные системы, которые успешно справляются, так сказать, в предопределенном контексте.

Например, шахматные системы обращаются к 'книгам' с партиями людей, т.е опосредованно используют трактовку позиций (контекста) людьми, ходами которые из нее вытекали и их результатами. Опять же, программа может по-ходу писать книгу с историями всех партий пользователя, тем самым сужая 'контекст' и упрощая анализ (помнит что-к-чему). Но там есть 'целевая функция' и алгоритмы её реализации.

С 'общением' будет сложнее...
Слова — лишь символы и знаки
Того ручья с бездонным дном,
Который в нас течет во мраке
И о совсем журчит ином.(с)

[komar]

Дело, наверное, в том, что те программисты свято верят в тест Тьюринга. А изобразить"светскую беседу" совсем не сложно. Сейчас МС вкрутит своей коробочке заплатки на политкорректные места, чтобы машинка не ругалась на американских "дежурных обиженных" - и блог будет не отличить от любого другого. Твиттер - тоже не общение, а его некая роботизированная версия, так что у новой версии есть все шансы.
Другое дело, что это не интеллект вообще. Впрочем, вот Онотоле сказал хорошо:

Цитата:

ИИ – картина любопытная. К этой сфере относятся те задачи, которые еще не удалось решить. Раньше было чтение рукописного текста, теперь ее решили и это не ИИ. Тест Тьюринга полвека назад научились имитировать. При общении текстом в чате вы уже не можете определить, человек разговаривает с вами, или нет. ИИ всегда на горизонте это то, чего мы не достигли.

[komar]

Искусственный интеллект Тэй, созданный Microsoft, вернулся в сеть после недельного молчания. Но без косяков опять не обошлось: чатбот, полюбивший Гитлера и назвавший Обаму обезьяной, начал постить спам и предложил курить травку на глазах у полиции.


http://www.vestifinance.ru/articles/69240

[Pavel]

Цитата:

Сообщение от komar

Искусственный интеллект Тэй, созданный Microsoft, вернулся в сеть после недельного молчания. Но без косяков опять не обошлось: чатбот, полюбивший Гитлера и назвавший Обаму обезьяной, начал постить спам и предложил курить травку на глазах у полиции.


http://www.vestifinance.ru/articles/69240

Спам - это единственная 'функция' данного примера искусственного интеллекта.
Конечно, не считая 'новостной ленты' о его прародителях.

[komar]

Это всё не просто так, а целая идеология-и-концепция:

Цитата:

.... интеллектуальных сервисов...., чтобы помочь им вступить в новую эру......взаимодействие с искусственным интеллектом, ..... наборов инструментов, призванных лучше понимать окружающий мир ....полный доступ к проактивному интеллекту....универсальную платформу ....трансформировать бизнес и улучшить жизнь людей....

Если перевести статью с маркетингового на русский, то получается, что МС развитает речевой интерфейс у своих продуктов, и хочет перевести разные устройства на единую операционную систему (видимо, Виндус-10). В общем, всё в том же направлении, что и последние лет 10.

И в конце статьи угрожающие нотки:

Цитата:

Разработчики в свою очередь с помощью Skype Bot Platform могут начать создавать своих Skype-ботов для сотен миллионов поклонников Skype.

Так и хочется сказать "спам-ботов"


http://www.vestifinance.ru/articles/69272

[EVGL]

Мне больше всего понравился вот этот шедевр:


Каким-то образом разработчикам удалось дать ей способности к парадоксальным высказываниям, т.е. человеческий юмор.
Обратите внимание: чтобы выдать такой ответ, Тай интерпретировала адресованное ей послание как вопрос о Крузе, затем просканировала Интернет/Википедию, чтообы понять кто такой "Зодиак", затем дала ответ в контексте. Это будет посильнее мальчика из Одессы.

[komar]

Цитата:

Сообщение от EVGL

Мне больше всего понравился вот этот шедевр:
Вложение 9555

Каким-то образом разработчикам удалось дать ей способности к парадоксальным высказываниям, т.е. человеческий юмор.
Обратите внимание: чтобы выдать такой ответ, Тай интерпретировала адресованное ей послание как вопрос о Крузе, затем просканировала Интернет/Википедию, чтообы понять кто такой "Зодиак", затем дала ответ в контексте. Это будет посильнее мальчика из Одессы.

Это простая подстановка, а не чувство юмора. Хотя, да, логический механизм прослеживается, и разрабатывать это, должно быть, очень интересно.

Но круче мальчика вряд ли получится, раз из всего потока клюквы, который льётся из газет по всему миру вас впечатлил именно он скорее, это свидетельство примитивности самого интернет-диалога, а не достижение интеллекта.

[Pavel]

Мой 'логический механизм' почему то данный контекст сводит к 'одесскому юмору':
'Мама, не теребите бирюльку! ...процесс проиграем.'

[komar]

Цитата:

Сообщение от Pavel

Мой 'логический механизм' почему то данный контекст сводит к 'одесскому юмору':
'Мама, не теребите бирюльку! ...процесс проиграем.'

Просто предположил, что все эти демонтративные "конкурсы Тьюринга" - такая же бестолковая пиар-шумиха, как и конкурсы "песни и тряски". Задача там - создать не интеллект, а автоответчик достаточно ограниченный, чтобы его невозможно было подловить на нестандартном вопросе. Недаром одесский мальчик именно мальчик, а не взрослый - программисты просто ограничили круг вопросов, и упростили себе уклонение от ответов.

В отличие от творения МС, имеющего утилитарную цель - прикрутить к своей винде более пристойный голосовой интерфейс, и размножить эту винду на как можно большее количество устройств. В рамках такой задачи интеллект не нужен, но пристойный конструктор фраз будет полезен. И конечно же, такая машинка должна иметь главной своей аксиомой полный отказ от самостоятельных умозаключений даже в рамках примитивной логики - что ей сейчас и прививается. Словарь запретных слов впаяют, и вперёд.

Что до самого интеллекта - то он, даже в машинном (то есть непохожем на человека варианте) должен отличаться тем, что в процессе обучения не просто подставляет разные данные в программу, а меняет саму программу. Что в некоторой степени присутствует в нейронных сетях, и начисто отсутствует у эмуляторов теста Тьюринга. Но просто "поболтать" с настоящим ИИ, боюсь, будет невозможно - а тут конструируется именно искусственный болтун.