近日,西北大學(xué)和麻省理工學(xué)院的沃森人工智慧實(shí)驗(yàn)室(MIT-IBM Watson AI Lab)開(kāi)發(fā)出了一種印有特殊圖案的T恤,只要穿上就能躲過(guò)AI系統(tǒng)的監(jiān)控,讓一個(gè)大活人在監(jiān)控鏡頭前“消失”。
研究人員表明,他們設(shè)計(jì)的圖像可以將整個(gè)人隱藏在AI驅動(dòng)的計(jì)算機(jī)視覺系統(tǒng)中。他們在一種流行的開(kāi)源對(duì)象識別系統(tǒng)YoLo(v2)上進(jìn)行了演示。
據(jù)悉,研究人員了使用一種稱(chēng)為對(duì)抗性機(jī)器學(xué)習(xí)的方法來(lái)欺騙AI,因為計(jì)算機(jī)視覺識別系統(tǒng)一般依賴大量數(shù)據(jù)訓(xùn)練在提高識別的準(zhǔn)確率,通過(guò)同樣的方法也能找出能夠欺騙系統(tǒng)的圖案。
但這種方式下,只要圖案的角度和形狀發(fā)生變化,就會(huì)輕易被識破。
他們採用了一種叫做薄板樣條線(xiàn )(TPS)的數(shù)據(jù)插值和平滑技術(shù),這項(xiàng)技術(shù)讓柔性物體也能模擬剛性物體的對(duì)抗性學(xué)習(xí),從而欺騙AI。
研究人員分別在現(xiàn)實(shí)和虛擬環(huán)境中測(cè)試這種T恤 ,準(zhǔn)確率分別能達(dá)63%和79%!
研究人員Van Ranst表示,將這種方法適應(yīng)現(xiàn)成的視頻監(jiān)控系統(tǒng)應(yīng)該並不難。“目前,我們還需要知道使用哪個(gè)檢測(cè)器。我們將來(lái)要做的是生成一個(gè)可同時(shí)在多個(gè)檢測(cè)器上運(yùn)行的補丁。”
在當(dāng)下,AI攝像監(jiān)控和生物識別仍存在諸多漏洞,除了提高這些技術(shù)本身以外,不少科學(xué)家們也在反向研究如何完美躲過(guò)這些技術(shù)的“追蹤”。
【來(lái)源:前瞻網(wǎng)】