Алгоритмот за намалување на слики на Твитер претпочита помлади, послаби лица со посветла кожа, откри истрагата за алгоритамската пристрасност на компанијата, објави британски Гардијан. Ова откритие, за кое претходно компанијата им се извини на корисниците, е првиот случај на успешно пронајдена грешка во алгоритмот на Твитер.
Грешката ја открил Богдан Кулинич, студент на Швајцарскиот федерален институт за технологија, кој ја докажа пристрасноста во алгоритмот, кој се користи за фокусирање на прегледите на сликите на нивните најинтересни делови. На ова работел во рамки на натпревар во Лас Вегас. Компанијата Твитер на Богдан му исплатила 3.500 долари за откриената грешка.
Експериментот на Кулинич
Кулинич ја докажа пристрасноста со тоа што прво вештачки генерираше лица со различни карактеристики, а потоа ги спроведе преку алгоритмот на Твитер за да види на што се фокусира софтверот. Со оглед на тоа дека лицата сами по себе биле вештачки, можело да се генерираат лица кои се скоро идентични, но во различни точки на спектарот на тонот на кожата, ширината, полот или возраста – и така младиот студент демонстрираше дека алгоритмот се фокусира на помлади, послаби и посветли лица наспроти оние кои биле постари, пошироки или потемни.
„Кога размислуваме за предрасуди во нашите модели, не станува збор само за академски или експериментални… туку и како функционира тоа со начинот на кој размислуваме во општеството“, изјави Руман Чаудхари, шеф на тимот за етичка вештачка интелигенција при Твитер.
Твитер беше мета на критики во 2020 година поради алгоритмот за намалување на сликата, откако корисниците забележаа дека редовно се фокусира на белите лица над црните луѓе – па дури и на белите кучиња над црните.
Твитер се извини
Компанијата првично се извини, велејќи: „Нашиот тим направи тест за пристрасност пред да го испрати моделот и не најде докази за расна или родова пристрасност во нашето тестирање. Но, од овие примери е јасно дека имаме повеќе анализи за правење. Ние ќе продолжиме да го споделуваме она што го учиме, какви дејства преземаме и ќе ги споделиме јавно нашите анализи за да можат другите да ги прегледаат и реплицираат “.
Меѓутоа, во подоцнежна студија, сопствените истражувачи на Твитер открија само многу блага пристрасност во корист на белите лица и лицата на жените.
Ова ја натера компанијата да започне да доделува награди од илјадници долари за истражувачите кои би можеле да докажат штетни резултати од алгоритмот за намалување слика на компанијата.
