Инженеры видят этические риски ИИ, но компании их не слушают
Исследователи Университета Манчестера обнаружили, что разработчики ИИ часто осознают этические проблемы в своих системах, но организационные барьеры препятствуют им принимать меры. Проблема оказалась не в знаниях специалистов, а в структуре принятия решений внутри компаний.
По данным исследования Университета Манчестера, разработчики ИИ регулярно выявляют этические риски в разрабатываемых ими системах, однако часто не располагают достаточной властью, мотивацией и поддержкой от своих организаций для того, чтобы устранить эти проблемы.
Осведомлённость без влияния
Исследование показало, что инженеры обладают необходимыми знаниями для выявления этических проблем, но сталкиваются с организационными препятствиями, которые блокируют их попытки действовать. Это означает, что дефицит этических решений в сфере ИИ связан не с недостатком компетентности разработчиков, а с внутренними процессами компаний.
Организационные барьеры
Ключевая находка исследования заключается в том, что вопрос этики ИИ — это прежде всего организационная проблема. Инженеры понимают риски, но структура принятия решений внутри компаний не предусматривает механизмов для их учёта на практике. Разработчикам не хватает как формальной власти, так и ресурсов для внедрения этических улучшений.
Что это означает для индустрии
Результаты исследования указывают на необходимость системных изменений в организационной культуре технологических компаний. Проблема не в том, чтобы обучить инженеров этике, а в том, чтобы создать условия, при которых их голос и рекомендации будут услышаны и учтены в процессе разработки и развёртывания систем ИИ.
