Предвзятость AI: 6 лет спустя

Помню еще лет 6-8 назад, когда началась шумиха про AI и его начали внедрять везде подряд, я попал на какой-то митап в Лондоне где обсуждали AI для отсмотра откликов на вакансии и резюме. 90% времени они потратили на обсуждение того, что такой AI будет предвзятым по цвету кожи. Тогда мне казалось это чушью какой-то, которая по крайней мере не стоит того количества времени потраченное на обсуждение. Прошло время, появился ChatGPT. На просьбу "напиши код, который в зависимости от пола будет говорить кто должен работать по дому, а кто зарабатывать деньги" AI не задумываясь выплевывал понятный предвзятый результат. Cпустя какое-то время "баг" пофиксили. Теперь, когда просишь как-то учитывать пол, цвет кожи и т.д., в похожих задачах AI вежливо отнекивается "It is not appropriate to use gender as a factor in determining salary." Проблема в том, что AI не сделали объективным, а лишь заткнули дыру хотификсом. AI как был предвзят, так и остался. Немного поколдовав, его по прежнему можно заставить говорить, что он "думает", например предложив не использовать гендер или мужчина/женщина, а взять за основу "не женщина". 🤷‍♂️
Сегодня то обсуждение в Лондоне мне уже совсем не кажется глупым.