可解釋且人類可繪製的對抗性塗鴉提供可描述的洞見

我們提出了一種名為對抗性塗鴉的新型攻擊,其具有可解釋和人類可繪製的形狀。我們利用基於梯度的優化方法來優化貝茲曲線的控制點,並使用可微分光柵器和隨機仿射變換來增強攻擊的魯棒性。我們的實驗表明,即使人類手繪這些攻擊,也能成功欺騙分類器。此外,我們發現了一些可描述的洞見,解釋了人類繪製的塗鴉形狀與分類器輸出之間的關係。