Facebook да затвори и изтрие системата си за разпознаване на лица


Facebook приключва системата си за разпознаване на лица този месец и планира да изтрие сканирания на лицата на над 1 милиард потребители, които е натрупал през последното десетилетие, компанията – която приписва промяната на нарастващите социални опасения – Обявено във вторник.

Решението елиминира функция, която създава шаблони от лицата на потребителите и го сравнява с други снимки и видеоклипове, публикувани в платформата. Събраните данни позволяват на Facebook да уведомява потребителите, когато се появяват на снимка или видео на някой друг, и подтикват потребителите да „маркират“ приятели и семейство, които са разпознали изкуствения интелект в съдържанието.

„Има голяма загриженост относно мястото на технологията за разпознаване на лица в обществото и регулаторите все още предоставят ясен набор от правила, регулиращи използването й“, каза Джером Пресенти, вицепрезидент по изкуствен интелект в Meta. Новопосочената компания майка на Facebook, се казва в публикация в блога. „Всред тази продължаваща несигурност, ние вярваме, че ограничаването на използването на разпознаване на лица до тесен набор от случаи на употреба е подходящо.“

Въпреки че новата промяна означава, че технологията на Meta вече няма да разпознава автоматично, когато лицето на потребител се появи в снимка или видео, публикувани в платформата, Facebook все още ще използва системата в ограничен капацитет. Потребителите ще имат достъп до затворени акаунти или ще проверяват самоличността си за финансови продукти.

cbsn-fusion-faces-faces-renewed-scrutiny-over-business-practices-thumbnail-816789-640x360.jpg

„Това са места, където разпознаването на лица като цяло е ценно за хората и социално приемливо, когато се използва внимателно“, каза Presenti. Компанията ще премести “по-тесни форми на лична проверка” в бъдеще, добави той.

Но има „трудни отклонения“, каза Presenti, и промените могат да повлияят негативно на общността с увредено зрение.

„Възможността да се каже на сляп или с увредено зрение потребител, че лицето на снимка в тяхната емисия за новини е техен приятел от гимназията или бивш колега, е ценна функция, която прави нашите платформи по-достъпни“, каза Presenti, „но е също зависи от основна технология, която се опитва да оцени лицата на снимка, за да съвпадат с тези, съхранявани в база данни с хора, които са се регистрирали.

Автоматичният алтернативен текст или AAT е технология, която Facebook използва за създаване на описания на изображения за потребители с увредено зрение и незрящи потребители. Компанията каза, че в момента AAT идентифицира хора в около 4% от снимките. Въпреки че AAT все още ще може да разпознава колко хора има на снимка, той вече няма да използва разпознаване на лица за идентифициране на всеки потребител на снимката.

Технологията за разпознаване на лица напредна през последните години, но все повече се използва правоприлагащите органи предизвика призиви за регулиране на експертите по поверителност. Това установи доклад от правителствената служба за отчетност от август 18 от 24-те анкетирани федерални агенции съобщават, че използват софтуер за разпознаване на лица и поне десет планират да разширят употребата си до 2023 г.

Расовите предразсъдъци при използването на технология за разпознаване на лица са друг проблем, тъй като може да разпознае погрешно черни и кафяви лица в значително по-високи ставки като техните бели колеги. Експерти по граждански права също критикуваха използването на технологията от Китай следват уйгурските мюсюлмани в името на превенцията на тероризма.

Експертите по поверителност приветстваха съобщението на Facebook като стъпка в правилната посока.

Шарън Брадфорд Франклин, съдиректор на проекта за сигурност и наблюдение в Центъра за демокрация и технологии, каза, че разпознаването на лица е област, в която технологията се развива по-бързо от регулациите, които ръководи.

„Когато Конгресът действа бавно или не може да действа, може да бъде полезно, ако големи частни участници предприемат стъпки за саморегулиране или въвеждане на контрол като запълване на пропуските“, каза Франклин. „Трудно е да се каже дали ще увеличи инерцията след регулирането“, добави тя.

Миналата година, Amazon, Microsoft и IBM всички обявиха, че няма да продават технологията си за разпознаване на лица на правоприлагащите органи.

Съобщението на Facebook идва, когато социалната мрежа се справя с интензивни обществени запитвания. Миналия месец бивш служител на Facebook Франсис Хауген, изтекоха хиляди вътрешни документи показват, че компанията познава своите продукти спомогна за разпространението на дезинформация и разделящо съдържаниеT.

Натали Марешал, старши мениджър по политика и партньорство в Ranking Digital Rights, организация, която насърчава поверителността в Интернет, постави под въпрос времето за обявяване на Facebook.

Тя каза, че платформата на социалните медии „се опитва да заобиколи истинските и изключително важни въпроси относно нейното управление и прозрачност“. По-рано тази година Facebook уреди дело за 650 милиона долара за поверителност в Илинойс тъй като се твърди, че са използвали биометричните данни на потребителите без тяхното разрешение.

„Това не идва от нищото, от добротата на сърцето на компанията“, каза Марешал. „Този ​​въпрос с разпознаването на лица отдавна е голямо главоболие за компанията“, добави тя.

Марешал отбеляза, че съобщението на Facebook показва, че компанията, която пренасочва ресурсите си за изграждане на Metaverse – дигитален свят, в който хората да работят и играят – ще продължи да използва някаква форма на софтуер за разпознаване на лица в бъдеще.

„Те биха могли да възстановят същата система много бързо“, каза Марешал. — Нищо не им пречи да го включат отново.

Leave a Reply

Your email address will not be published. Required fields are marked *