你知道嗎？就像學生在學校從老師和書本中學習一樣，電腦也可以學習！這種學習發生在電腦查看大量信息（我們稱之為「數據」）時。越多數據，電腦的學習效果就越好。例如，電腦可以通過這些數據來辨別你拍的照片中的臉，或者推薦一些你可能喜歡的視頻。
但有時，如果我們給電腦錯誤的信息，就會造成嚴重的錯誤。想像一下，如果你的老師誤教你2 + 2 = 5，你就會學錯知識。對電腦來說，這也是一樣的道理。
貝葉斯推斷：解決神秘的偵探
想象一位偵探正在調查一起案件。他們會從已有的線索開始，這就像電腦已經知道的一些初步假設或信念。隨著新的線索的出現，偵探會根據這些新信息來改進自己的想法。這種不斷更新的過程稱為「貝葉斯推斷（Bayesian Inference）」。
| 類比 | 你已經知道的（先前信念） | 新信息（證據） | 更好的猜測（後驗信念） |
| 偵探 | 初步嫌疑人名單 | 現場找到的線索 | 更清楚的嫌疑人 |
| 天氣預報 | 根據季節的降雨概率 | 看到的黑雲 | 有更高的降雨概率 |
| 投幣 | 猜測硬幣是否公平 | 若干次拋擲的結果 | 對公平性的更有信心的猜測 |
貝葉斯推斷現在被大量用在自動駕駛、醫療診斷、金融風險評估、投資組合優化、線上廣告推薦等。換句話說，這個研究就是講，可以透過刪除和重複資料，攻擊者能夠改變模型對資料的解讀，這個資訊安全隱憂可以造成廣泛的巨大損失。
在大數據時代，資料安全不再只是傳統意義上的駭客入侵，連機器學習模型本身也可能面臨內部資料被「中毒」的風險。因此不只是科技業專業人士，平常在使用人工智慧的人，都應該多一點重視數據的完整性以及模型防禦措施。
糟糕的情況：數據篡改
但可怕的是，某些人可能會試圖欺騙電腦，這就是我們所說的「數據篡改」。這就像有人在現場放置假線索，讓偵探得出錯誤的結論。當電腦用 Bayesian Inference 來做決策的時候，如果資料被偷偷改變，就會出現錯誤的結論。例如：
– 電腦可能會錯誤地認為「房間越多，房子反而更便宜」。
– 在信用貸款的判斷上，也可能出現錯誤，影響很多人的決策。
這樣的行為會導致電腦學會錯誤的知識，甚至造成重大錯誤。比如，無人駕駛汽車可能會因為沒有正確檢測紅燈而發生事故。
Sneaky Trick：刪除和複製數據
最近有研究指出，有壞心腸的人可以藉由刪除一些數據或複製一些非重要的信息來欺騙使用貝葉斯推斷的電腦。想像一下，如果有人偷偷拿走了一些真正的線索（刪除數據），或是多次放大某個不太重要的線索（複製數據），偵探可能就會混淆，錯誤解決案件。研究人員發現，只要刪除或重複少部分（甚至只改變 0.12% 的資料），就能讓電腦的推論結果大變樣！
研究者們在論文《惡意篡改貝葉斯推斷：數據刪除與複製》中展示了，即使僅僅刪除或複製少量信息(甚至只改變 0.12% 的資料），也能使電腦的「偵探工作」出錯。例如，在一個班級選舉中，若有人偷偷拿掉一部分人的投票，最後的計算就不公平了！
其他人也在思考這個問題
除了這篇論文外，許多科學家對於如何欺騙計算機系統也有所研究。舉例來說，早在不久前，某些發送垃圾郵件的人試圖通過增加隨機單詞來欺騙使用貝葉斯學習的郵件過濾器。這表明試圖欺騙電腦學習系統的概念已經存在了很久，這一領域被稱為「對抗性機器學習」。
了解如何欺騙電腦其實對我們非常重要。通過認識可能的欺騙手法，我們可以建立更好的防禦力。這就像在玩捉迷藏時，知道藏身之處一樣，可以更快找到隱藏的人。然而，壞人如果學會了這些手法，就可能會利用它來影響計算機系統的可靠性。例如，電腦可能會錯誤地拒絕那些應獲得貸款的人，或者導致自駕車發生意外。
所以，我們必須很小心地對待我們提供給電腦的信息。給計算機好的和誠實的數據，能讓它更有效地學習並提供幫助，而不給它錯誤的信息。我們要懂得質疑計算機的反饋，確保它們得到的是值得信賴的信息。這樣，我們的電腦才能在重要的任務上做出正確的決策！
參考文獻
- Carreau, M., Naveiro, R., & Caballero, W. N. (2025). Poisoning Bayesian Inference via Data Deletion and Replication. Proceedings of the 28th International Conference on Artificial Intelligence and Statistics. Retrieved from arXiv.
