З'явіўся інструмент, які дапамагае за секунды выявіць дыпфэйк
- 3.12.2024, 20:06
Бясплатна.
У кампаніі Hiya прапанавалі Deepfake Voice Detector. Гэта бясплатнае пашырэнне для Google Chrome, якое хутка вызначае сфальсіфікаваны аўдыя- і відэакантэнт, падаючы вынікі за «лічаныя секунды», перадаюць «Дэталі».
Галасавое махлярства і відэа з дыпфэйкамі сталі большай праблемай. Сацыяльныя сеткі даюць ашуканцам даволі матэрыялу для кланавання галасоў, а спецыяльныя праграмы дазваляюць ім падчас зносінаў у сеціве або на відэа праецыраваць патрэбны твар проста на сябе. Так ашуканцы могуць размаўляць і рухаць галавой, хаваючыся за чужым лічбавым тварам і павялічваючы пры гэтым свае шанцы на тое, каб паспяхова мінуць праверку жывога карыстальніка.
Інструмент Deepfake Voice Detector інтэграваны проста ў браўзер, што робіць яго максімальна зручным для выкарыстання. Журналісты, кампаніі і звычайныя карыстальнікі, якія сутыкаюцца з рызыкай дэзынфармацыі, могуць хутка праверыць сумнеўны кантэнт. Тэхналогія заснаваная на штучным інтэлекце, які аналізуе галасавыя патэрны і вызначае іх сапраўднасць з дакладнасцю да 99%.
Паводле словаў стваральнікаў, Deepfake Voice Detector добра працуе з кароткімі аўдыяфрагментамі – даволі ўсяго адной секунды гуку. У выніку карыстальнікі атрымліваюць так званы «індэкс сапраўднасці» – ад 0 да 100. Чым бліжэйшы паказнік да нуля, тым вышэйшая верагоднасць, што перад вамі дыпфэйк.
Пашырэнне распрацаванае спецыяльна для сацыяльных сетак і навінавых платформаў, дзе праблема стаіць асабліва востра. Дзякуючы яму журналісты могуць аператыўна правяраць відэаматэрыялы перад публікацыяй, а кампаніі – абараняць свае звесткі ад выцечак.
Асаблівая ўвага аддаецца рызыкам, звязаным з галасавымі дыпфэйкамі. Зламыснікі выкарыстоўваюць падробленыя галасы для атрымання пароляў да IT-сістэмаў або вываблівання канфідэнцыйнай інфармацыі. Шкода ад падобных нападаў можа быць каласальнай, а выяўленне хлусні – першым крокам да мінімізацыі пагрозы.
Няма нічога дзіўнага ў тым, што ашуканцы актыўна выкарыстоўваюць генератыўны штучны інтэлект у сваіх схемах. Яны заўсёды праяўлялі жывую цікавасць да тэхнічнага прагрэсу, значна апярэджваючы ў гэтым органы правапарадку. Асноўныя віды махлярства не мяняюцца з часам, але аферысты вельмі хутка ўзбройваюцца новымі інструментамі, адаптуючы пад іх існыя схемы, і гэта дазваляе ім з лёгкасцю знаходзіць ахвяраў.
Не тое што прыватныя асобы, але і фінансавыя арганізацыі і органы правапарадку звычайна не ў стане хутка распрацаваць інструменты, якія дазваляюць прадухіліць махлярства з выкарыстаннем новых тэхналогій. Да прыкладу, у канцы 80-х гадоў мінулага стагоддзя Forbes USA раскрыў схему афёры: злодзеі падраблялі чэкі з дапамогай звычайных ПК і лазерных друкарак, прычым бланкі былі настолькі добрай якасці, што банкі іх прымалі без лішніх пытанняў, – ніякай спецыяльнай працэдуры для выяўлення фальшывак у фінансавых установах на той момант проста не было.
Сёння падобнае адбываецца з выкарыстаннем ашуканцамі генератыўнага штучнага інтэлекту. Паводле звестак Федэральнай гандлёвай камісіі ЗША, за мінулы год толькі амерыканцы аддалі ашуканцам рэкордныя 8, 8 мільярда даляраў, і гэта толькі з улікам выпадкаў, пра якія паведамілі пацярпелыя.
Да прыкладу, калі існае з 1980-х гадоў махлярства «нігерыйскія лісты» было вядомае даволі прымітыўным зместам лістоў, часцяком напісаных з памылкамі, то цяпер ШІ піша бездакорныя прафесійныя лісты ад імя банкаў і фінансавых арганізацый.
Яшчэ большай праблемай з'яўляецца галасавое махлярства і відэа з дыпфэйкамі. Сацыяльныя сеткі даюць ашуканцам даволі матэрыялу для кланавання галасоў, а спецыяльныя праграмы дазваляюць ім падчас зносінаў у сеціве або на відэа праецыраваць патрэбны твар проста на сябе. Так ашуканцы могуць размаўляць і рухаць галавой, хаваючыся за чужой лічбавай асобай і павялічваючы пры гэтым свае шанцы на тое, каб паспяхова падмануць карыстальніка.
Праблема заключаецца ў тым, што большасць людзей пакуль не можа абвыкнуць з думкай, што нельга давяраць не тое што электроннай пошце і тэкставым паведамленням, але і знаёмаму голасу ў тэлефоне. Вядома, што голас – унікальная ідэнтыфікаваная прыкмета кожнага чалавека. У тэлефанаваннях давер паміж знаёмымі суразмоўцамі імгненна ўстанаўліваецца, калі яны чуюць і пазнаюць голас адно аднаго.
Чым ашуканцы паспяхова карыстаюцца. Гэта могуць быць званкі бабулям і дзядулям нібыта ад унукаў з просьбай тэрмінова пераслаць грошы, могуць быць званкі ад нібыта выкрадзеных дзяцей з патрабаваннем выкупу, могуць быць карпаратыўныя афёры. У 2020 годзе адна японская кампанія страціла 35 мільёнаў даляраў, калі аферысты кланавалі голас кіраўніка найвышэйшага звяна і пракруцілі з яго дапамогай хітрую ашуканскую схему.
Сёння спробы падобных афёраў адбываюцца ўсё часцей праз падвышаную дакладнасць, даступнасць і таннасць прыладаў ШІ для напісання тэкстаў, пераймання голасу і маніпуляцый з відэаролікамі. Пры дапамозе інструментаў на базе ШІ ў агульным доступе аферысты могуць тэлефанаваць супрацоўнікам кампаній, выкарыстоўваючы кланаваную версію голасу кіраўніка, і ад ягонага імя ўзгадняць транзакцыі або прасіць супрацоўнікаў раскрыць канфідэнцыйныя звесткі – гэта называецца «галасавым фішынгам».
У сакавіку летась Федэральная гандлёвая камісія (FTC) разаслала амерыканскім спажыўцам папярэджанне, што ашуканцы цяпер выкарыстоўваюць штучны інтэлект для паляпшэння сваіх схемаў. Паводле звестак FTC, усё, што трэба ашуканцам, – кароткі ўзор голасу чалавека (ад трох секундаў), які можна атрымаць, проста патэлефанаваўшы на нумар патэнцыйнай ахвяры і абмяняўшыся з ёй некалькімі фразамі.
Ашуканцы выкарыстоўваюць ШІ для кланавання голасу і потым адпраўляюць падробленыя галасавыя паведамленні або тэлефануюць кантактам ахвяры, у рэальным часе прыкідваючыся, што ім патрэбная дапамога. Пры гэтым 70% рэспандэнтаў, якія ўдзельнічалі ў даследаванні McAfee, не ўпэўненыя, што яны змаглі б адрозніць падробку ад сапраўднага голасу, асабліва калі ашуканец прыкідваецца не самым блізкім знаёмым ахвяры.
45% апытаных сказалі, што адказалі б на паведамленне ад сябра ці сваяка, які мае патрэбу ў грошах, асабліва калі б яны падумалі, што гэта іх другая палоўка (40%), бацькі (31%) ці дзіця (20%). А самыя верагодныя прычыны для запыту дапамогі, якія назвалі рэспандэнты, – аварыя (48%), рабаванне (47%), страта тэлефона або гаманца (43%), праблемы за мяжой (41%).
У Ізраілі на сёння тэлефонныя ашуканцы не заходзяць далей за падмену нумара тэлефона, называючыся супрацоўнікамі банкаў ці іншых арганізацый, але можна не сумнявацца, што ашуканскія схемы з выкарыстаннем ШІ неўзабаве з'явяцца і там. Прадстаўнікі Федэральнай гандлёвай камісіі адзначаюць, што з развіццём інтэрнэту і ШІ-тэхналогій практычна ніхто не абаронены ад падобнага кшталту нападаў, ды і разумна думаць у стрэсавай сітуацыі зможа далёка не кожны.
Тым не менш спецыялісты раяць пры паступленні падобнага званка не верыць таму, што гаворыць махляр, як бы пераканальна гэта ні гучала. Лепш скінуць выклік і патэлефанаваць наўпрост чалавеку, голас якога зламыснікі, як мяркуецца, скапіявалі. Калі такога варыянту няма, варта звязацца са сваякамі гэтага чалавека і даведацца, ці не спрабуюць вас падмануць.