Мы привыкли думать об алгоритмах как о чём-то сугубо техническом. Программный код, набор инструкций — ну, математика, ну, логика. Что тут может быть общего с совестью? Но за последние несколько лет алгоритмы вышли из серверных и стали активными участниками нашей повседневной жизни. Они рекомендуют нам музыку и фильмы, отсеивают резюме при приёме на работу, ставят диагнозы по снимкам МРТ, оценивают нашу кредитоспособность, решают, увидим ли мы в ленте новость о катастрофе или о котиках. И чем больше решений они принимают без нашего непосредственного участия, тем острее встаёт вопрос: а на основании чего они это делают? И главное — кому они служат?

В этом и заключается суть алгоритмической этики. Это не модный тренд и не набор скучных правил, которые якобы должны успокоить общественность. Это попытка заново осмыслить отношения между человеком и техникой в эпоху, когда техника перестала быть просто инструментом. Она стала средой, в которой мы живём, дышим, принимаем решения. И если эта среда построена без учёта нашей природы, без уважения к нашей свободе и нашему достоинству, — мы рискуем проснуться в мире, где машины знают нас лучше, чем мы сами, но при этом не понимают самого главного: зачем мы вообще есть.

Миф о нейтральности