Страница не найдена

​Словарный запас: РОБОЭТИКА

 

ЧТО НАПИСАНО В СЛОВАРЕ

Робоэтика — набор определённых правил, установленных для того, чтобы контролировать отношения между человеком и роботом. ( Whatis.com)

 

ЧТО ГОВОРЯТ ЭКСПЕРТЫ

Евгений Плужник, генеральный директор Московского технологического института

Робоэтика изучает этические и моральные проблемы, связанные с роботами и компьютерными программами. Нужно понимать субъект этики для определения самой области. Если исследователь создаёт робота-убийцу — это вопрос робоэтики. Если же робот был плохо закреплён при переноске и упал на ногу человеку — это касается другой сферы. Можно привести несколько примеров робоэтических вопросов, которые сейчас активно обсуждаются. Есть этика беспилотного автомобиля. Существует проблема вагонетки с классической формулировкой: «Тяжёлая неуправляемая вагонетка несётся по рельсам, к которым привязано пять человек. К счастью, вы можете переключить стрелку — и тогда вагонетка поедет по другой дороге. К несчастью, на запасном пути привязан один человек. Каковы ваши действия?»

Представим аналогичную ситуацию: перед беспилотным автомобилем оказывается пешеход, справа и слева — обрывы. Вычисления бортового компьютера показывают, что поворот в любую сторону приводит к гибели пассажира, продолжение движения — к гибели пешехода. Иных вариантов нет: для торможения расстояния недостаточно. Понятно, что ситуация исключительная и вероятность её крайне мала. Тем не менее в компьютер беспилотного автомобиля придётся закодировать какое-то решение.

Выбрать определённую стратегию поведения компьютера в подобной ситуации непросто, поскольку нужно понять, на какие параметры будет ориентироваться машина. На возраст пешехода? Возраст пассажира? Или не принимать во внимание любые факторы и всегда поступать одинаково? В скором времени для управления заводами, электростанциями и, быть может, даже городами, потребуются компьютеры «с определёнными полномочиями». И этим компьютерам придётся принимать быстрые и сложные решения: например, при возникновении критической ситуации на атомной электростанции закрыть зону реактора с оставшимися в ней людьми, чтобы не допустить больших жертв.

Если попробовать назвать самую актуальную область использования робоэтики, я бы отталкивался от законов робототехники Азимова. Тогда получается, что военное применение роботов основной вопрос робоэтики, так как ценность жизни человека для нашего общества является одной из главных. Хотя сами по себе правила робототехники Азимова очень трудны для программирования, поскольку для их использования необходимо хорошо понимать, что происходит в конкретный момент.

Законы Азимова нужно использовать как некоторые пожелания для робототехников: роботы не должны убивать людей, должны выполнять приказы людей и заботиться о собственной безопасности.

Алексей Турчин, футуролог, вице-президент фонда «Наука за продление жизни»

Робоэтика — это наука о том, как сделать взаимодействие с роботами безопасным для человека. В ней есть два основных направления: безопасность специализированных роботов, например автопилотов автомобилей или военных роботов, и безопасность искусственного интеллекта как компьютерной программы, в значительной мере превосходящей человека.

В нулевые годы проводились семинары по робоэтике, а затем проблема стала мейнстримом, когда появились актуальные вопросы о поведении автопилотов и военных роботов. Одновременно теорию безопасности ИИ, применительно к будущему сверхинтеллекту, создал Элиезер Юдковски.

Робоэтика отслеживает, чтобы роботы следовали командам человека. При этом ценности других людей, в первую очередь их права на жизнь, должны быть сохранены. Также эта область сталкивается с проблемой загрузки сознания в машину. Перед ней есть задача выбора между двумя вредными последствиями и вопрос: можно ли дать право военному роботу принимать решения об уничтожении террористов. Одна из проблем — как он должен трактовать маловероятные риски с большими последствиями и какую именно теорию принятия решений должен использовать. Другая проблема — как избежать того, чтобы буквальная интерпретация команд не приводила бы к фатальным последствиям. Например, робот, которого попросили убрать все круглые предметы из комнаты, не должен отрывать своему хозяину голову. Больше всего робоэтика нужна в сфере машин автопилотов, будущих военных и домашних роботов, секс-роботов и финансовых советников. Сам по себе термин довольно неясный, поэтому в профессиональном сообществе употребляют выражение «AI alignment» — то есть выстраивание системы целей интеллектуального агента в соответствии с ценностями человека. Также есть понятие «AI safety», которое подчёркивает, что наибольший риск со стороны ИИ и роботов — это глобальная катастрофа, связанная с выходом из под контроля системы ИИ со способностью к усилению самой себя.

 

ПРИМЕРЫ УПОТРЕБЛЕНИЯ

ТАК ГОВОРИТЬ ПРАВИЛЬНО

Создание системы искусственного интеллекта, совмещённого с дронами, которые на своё усмотрение уничтожают людей, противоречит базовым принципам робоэтики (Евгений Плужник)

ТАК ГОВОРИТЬ НЕПРАВИЛЬНО

Область робоэтики изучает вопрос замены людей роботами и, как следствие, социальной напряжённости. (Пояснение: это социальный, экономический и политический вопрос, но не робоэтический, потому что никак не связан с программированием самих роботов на те или иные действия.) (Евгений Плужник)

Нашли опечатку или ошибку? Выдeлите фрагмент и отправьте нажатием Ctrl+Enter.

Поделиться в соцсетях

По теме