長久以來，計(jì)算機(jī)科學(xué)家們都在努力開發(fā)一些能夠“愚弄”人工智能的圖像類型。而這種特殊的圖片和模式，就被稱作“敵對(duì)圖像”（adversarial images）。實(shí)際上，這么做是利用了計(jì)算機(jī)看待世界的不同方式，讓人工智能的“眼睛”看到了并不存在的東西（可以理解為 AI 版本的“視覺幻象”）。比如將物理對(duì)象打印在紙張上，做出一幅“眼鏡”來考驗(yàn)面部識(shí)別系統(tǒng)?，F(xiàn)在，Google 的研究人員們又想出了新的法子，它就是“神奇貼紙”。
上個(gè)月的時(shí)候，研究人員已經(jīng)發(fā)表了一篇描述“敵對(duì)圖像”（Adversarial Patch）的論文。雖然算不上是突破性的進(jìn)展，但至少向前又邁進(jìn)了一步。
這些測試圖像可以在家里輕松打印出來，與其它“敵對(duì)圖像”攻擊不同的是，它們顯得相對(duì)“柔性”一點(diǎn)，無需根據(jù)想要覆蓋的圖像、或者 AI 的視角而進(jìn)行調(diào)整。
文中寫到，即便不知道先前的光線條件、相機(jī)視角、分類、甚至場景里的其它物品，都可以用貼紙來創(chuàng)建“物理世界的攻擊”。生成了這樣的圖像之后，還可以發(fā)布到網(wǎng)絡(luò)上供其它攻擊者打印和使用。
許多人工智能研究人員都擔(dān)心，這類方法會(huì)對(duì)自動(dòng)駕駛汽車等系統(tǒng)產(chǎn)生危害，比如讓車載系統(tǒng)誤以為高速公路邊有個(gè)“停車”的牌子、或者一張防止個(gè)人被 AI 監(jiān)視系統(tǒng)識(shí)別的標(biāo)簽。
即便普通人可以注意到這些貼紙的異樣，也不一定會(huì)理解它的真實(shí)意圖，甚至認(rèn)為這僅僅是某種藝術(shù)的展現(xiàn)形式。
當(dāng)然，目前暫時(shí)也不用擔(dān)心出現(xiàn)類似的攻擊，畢竟隨著技術(shù)的發(fā)展（打補(bǔ)丁），同樣的套路不一定會(huì)在每一套 AI 系統(tǒng)上都奏效。
微信掃一掃
