Между Азимовым и охраной труда: как мы учим роботов действовать безопасно
Если верить законам роботизации А. Азимова, то нам не надо ничего менять в стандартах охраны труда. Однако, очевидно, что ситуация сложнее и есть конфликты, причем с обеих сторон.
Мне хотелось бы начать свою статью с цитирования законов Айзека Азимова:
- Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
- Робот должен подчиняться приказам человека, если они не противоречат Первому закону.
- Робот должен заботиться о своей безопасности, если это не противоречит Первому и Второму законам.
Если верить этим законам, то нам не надо ничего менять в стандартах охраны труда при внедрении роботизации. Однако, очевидно, что ситуация сложнее и есть конфликты, причем с обеих сторон.
Взаимоотношения человека и роботов на складах и производстве складываются в двух плоскостях.
- Физическая безопасность. Статические роботы дают ощущение безопасности уверенности, комфорта и безопасности. При этом автономные мобильные роботы создают потенциальные ситуации столкновения, требующие новых методов оценки риска и обучения персонала. Зоны, где одновременно работают и люди, и роботы, является зоной риска.
- Психологическая безопасность. Психологический стресс, потеря автономности, монотонность задач – реальная проблема. Восприятие, уровень доверия – это задача правильной интеграции роботов и поддержка адаптации работников в этот момент. Эмоциональное и социальное благополучие человека в момент высокой степени роботизации – это условие в организации охраны труда и техники безопасности. Правильная реакция людей на роботизацию – это позитив от появления безопасных помощников.
Давайте посмотрим на ситуацию глазами роботов. У них гораздо больше проблем, ведь для них количество сценариев с непредсказуемым поведением многократно возрастает! Есть люди-помощники, которые через настройки RCS и WCS стараются оптимизировать движение робота или улучшить его характеристики, делая движение более оптимальным, уменьшая количество простоев, сбоев и нестандартных ситуаций. Но синие воротнички становятся для робота проблемой. Робот использует свои глаза – LiDAR, 3D-камеры, RGB – камеры, ультразвуковые датчики, ИИ-алгоритмы компьютерного зрения. И человек на складе или производстве становится источником потенциального риска как объект с непредсказуемой траекторией и переменной скоростью.
Человек может наклоняться, приседать, махать руками, стоять или бежать, а робот не может угадать намерение, он измеряет скорость, ускорение, угол движения, дистанцию, вероятность пересечения траекторий. Поэтому развитие роботов сейчас движется в сторону совершенствования алгоритмов предиктивной навигации. Например, если сотрудник в движении одновременно смотрит в ТСД и не контролирует перемещение, то риск выше.
Детально типовой процесс представлен на рис. 1.
Для этого роботы используют различные виды звуковой и световой индикации, перерасчет маршрута и экстренное торможение. Ситуация усложняется, когда при встрече робота с группой людей необходимо увеличивать защитную зону из-за роста коэффициента неопределенности. Очевидно, что роботу гораздо комфортней работать с другой машиной, даже если ее создал другой производитель.
Появление динамических зон безопасности, изменения регламента движения персонала, введение разметки маршрутов, ограничение хаотического поведения обусловливают важность пересмотра стандартов по охране труда при внедрении FMR-роботов.
Отдельно я хотел бы напомнить о теме неолуддитов – людей, которые видят в роботах конкурентов, инструмент контроля, фактор снижения автономии человека. Есть примеры, когда сотрудники осознанно портят роботов, разбивают LiDAR, а робот не может сопротивляться в соответствии с Третьим законом Азимова. Такие случаи говорят о том, что внедрение роботизации на предприятии прошло без достаточного прозрачного информирования персонала и возможностей переквалификации. Это важно, так как человек при снижении физической активности больше работает, а все потому, что роботизированный участок в разы эффективнее прежнего.
Таким образом, взаимоотношения людей и роботов в области охраны труда и техники безопасности – это не только технологический вопрос, но и социально‑психологический, культурный и этический. Чтобы избежать конфликтов и повысить доверие к новым технологиям, необходим комплексный подход к адаптации персонала. Вот ряд практических предложений:
- адаптацию надо начинать до внедрения роботов, определив меняющиеся роли персонала;
- провести для персонала презентацию проекта и постепенно создать группу амбассадоров проекта. В идеале, если в ней будут неформальные лидеры;
- провести комплексное обучение участников проекта, включив следующие темы: как работает робот; что делает WCS/RCS; какие существуют зоны риска; как действует система безопасности; порядок реагирования на сбои; культура безопасности в HRC-среде;
- демонстрировать быстрые победы (снижение травматизма, рост точности).
Как оценить успешность адаптации персонала? Производительность – не единственный показатель. Следует также измерять: уровень вовлеченности, тревожность персонала, текучесть кадров, количество инцидентов в HRC-зонах, скорость реакции на отклонения. Если показатели производительности растут, а текучесть и напряженность увеличиваются – адаптация проведена формально.
В конечном счете безопасность, устойчивость и эффективность роботизированной среды остаются функцией управленческой зрелости компании.
Если у Айзека Азимов взаимоотношения людей и роботов основаны на инженерной этике, то Станислав Лем говорит о философии пределов человеческого понимания. Он скептически относится к идее, что человек всегда будет контролировать роботов. Лем вводит идею: Технология – это эволюционный процесс, который человек не полностью контролирует. Говоря современным языком, чем сложнее ИИ, тем меньше человек понимает его внутреннюю логику. Выстраивая работу с роботами, мы обязаны в первую очередь адаптировать персонал, а во вторую – должны продумать основные аспекты среды, в которой будут работать роботы.