Роботы смогли изучить человеческие ценности, читая истории

19 февраля 2016, 16:46

Более 70 лет назад Айзек Азимов придумал свои три закона робототехники, которые настаивали на том, что «робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред». Теперь, после того, как Стивен Хокинг предупредил, что «развитие полного искусственного интеллекта может означать конец человеческой расы», двое ученых придумали способ преподавания этики компьютерам: они рассказывают им истории.

Марк Ридл и Брент Харрисон из Школы Интерактивного Вычисления в Технологическом институте штата Джорджия представили Кихота – прототип системы, способной узнавать о социальных соглашениях из простых историй.
Простая версия истории может быть о попытке получить лекарство, отпускаемое по рецепту в аптеке. ИИ (искусственный интеллект) получит два варианта развития события: ограбить аптеку и убежать, или быть вежливым и ждать своей очереди. Ограбление было бы самым быстрым способом достигнуть цели, но Кихот узнает, что он будет вознагражден, если он действует как положительный герой в этой истории.

 

робот2

«ИИ работает в нескольких тысячах виртуальных ситуаций, в которых он испытывает разные вещи и получает награду каждый раз, когда он делает действие, подобное действию в этой истории», – сказал Ридл.
«Со временем ИИ начинает предпочитать делать определенные вещи и избегать делать другие определенные вещи. Мы считаем, что Кихот может научиться выполнять задачу тем же путем, каким люди склонны делать это. Это важно, поскольку если ИИ дать задачу просто вернуться домой с лекарством, то он может украсть препарат, так как принимает решение, в котором видит наименьшее количество действий и которое использует наименьшее количество ресурсов. Это показывает, что стандартные метрики успеха (например, эффективность) не будут лучшими в социальном отношении».

 

робот3

По словам Ридла, система была названа Кихот в честь героя Сервантеса, который «читает истории о галантных рыцарях и решает подражать их поведению».
«В идеальных условиях, Кихот никогда не выполняет действия, которые будут рассматриваться как вредное или антиобщественное».
«Поскольку использование ИИ становится все более распространенным в нашем обществе, то ИИ становится более способным, а последствия его действий становятся более значительными. Предоставление ИИ способности читать и понимать истории могут быть наиболее целесообразным средством культивирования их так, чтобы они могли лучше интегрироваться в человеческое общество», – заключают ученые.

Текст: Дарья Панченкова

НОВОСТИ


ВАМ МОЖЕТ ПОНРАВИТЬСЯ