Мицрософт каже да је за препознавање лица потребна владина регулатива, а технолошке компаније позивају на етичност

Мицрософт, ВинБета

Са технологијом препознавања лица која се убрзано примењује како у предузећима, владама, тако и у потрошачима, председник и главни правни уред Мицрософта, Брад Смитх, позвао је технолошке компаније у индустрији да се придржавају својих етичких одговорности, као и позиве владе да креирају прописе, при чему Мицрософт верује да ће то створити здравију индустрију у конкурентном окружењу.

Дискусирано у Мицрософтов блог „О проблемима“ , Брад Смитх износи своје и Мицрософтове мисли на тему препознавања лица и на оно на шта треба да се позабави.

Смитх је сагледао позитивне ствари које напредак у технологији лица може донети, попут проналаска несталог детета или помагања полицији у идентификовању терориста или чак помагања у свакодневном животу употребом паметног телефона и апликације како би слепој особи помогло да сазна ко је управо ушао на састанак соба.

Неке нове употребе су и позитивне и потенцијално чак и дубоке. Замислите да пронађете младо нестало дете тако што ћете је препознати док је шетају улицом. Замислите да помогнете полицији да идентификује терориста који је склон уништавању док улази у арену у којој присуствујете спортском догађају. Замислите камеру паметног телефона и апликацију која слепој особи говори име особе која је управо ушла у собу да се придружи састанку.

Технологија, као и код већине ствари, долази са својим недостацима, и овде Смитх жели да влада и технолошке компаније предузму мере. Неки од проблема који би се могли догодити, а у неким случајевима се већ дешавају, укључују:

• Владе снимају свуда где ходате
• База података људи који су присуствовали политичком скупу
• Продаваонице размењују информације о свакој полици коју погледате и производима које купујете, без питања

Али друге потенцијалне апликације су отрежњујуће. Замислите да влада прати свуда где сте ходали током протеклих месец дана без вашег одобрења или знања. Замислите базу података о свима који су присуствовали политичком скупу који чини саму суштину слободе говора. Замислите да продавнице тржног центра користе препознавање лица како би међусобно делиле информације о свакој полици коју прегледате и производу који купујете, а да вас претходно не питају. Ово је дуго била ствар научне фантастике и популарних филмова - попут „Мањинског извештаја“, „Непријатеља државе“, па чак и „1984“ - али сада је на ивици да постане могуће.

Компанија верује да је потребан „заједнички регулаторни оквир“. Ово ће помоћи у стварању здраве индустрије, истовремено осигуравајући поштовање етичких одговорности, и створити једнаке услове по којима све компаније знају правила која треба да следе, што би заузврат створило стабилност у индустрији. Износећи нека питања са којима владе и компаније морају да се позабаве, Смитх каже:

• Да ли би примена закона за препознавање лица у спровођењу закона требало да подлеже људском надзору и контроли, укључујући ограничења на употребу технологије не препознавања лица као помоћ за доказивање кривице или невиности злочина?
• Слично томе, да ли бисмо требали осигурати да постоји цивилни надзор и одговорност за употребу препознавања лица као део владине праксе технологије националне безбедности?
• Које врсте правних мера могу спречити употребу препознавања лица за расно профилисање и друга кршења права, а да истовремено дозвољавају корисну употребу технологије?
• Да ли би употреба препознавања лица од стране јавних власти или других требало да подлеже минималним нивоима перформанси у погледу тачности?
• Да ли закон треба да налаже да трговци на јавним местима постављају видљиво обавештење о коришћењу технологије препознавања лица?
• Да ли закон треба да захтева да компаније прибаве претходну сагласност пре сакупљања слика појединаца за препознавање лица? Ако јесте, у којим ситуацијама и на којим местима би ово требало применити? И који је одговарајући начин да се затражи и добије таква сагласност?
• Да ли треба да осигурамо да појединци имају право да знају које су фотографије прикупљене и похрањене, а које су идентификоване са њиховим именима и лицима?
• Да ли треба да креирамо процесе који омогућавају законска права појединцима који верују да су погрешно идентификовани системом препознавања лица?

Мицрософтови проблеми са технологијом препознавања лица недавно су истакнути током скандала раздвајања деце имигрантске деце, у којем је Мицрософт оптужен да помаже у технологији препознавања лица за ИЦЕ. Компанија је рекла да њен уговор не укључује технологију препознавања лица и да није помогла у одвајању деце од имигрантских породица.