AI 工具可能讓設計與製造致命病原體變得更加容易
一個毫無科學背景、卻懷有惡意的人，要多容易才能製造並散播危險病原體？如今，這個門檻正不斷降低。基因定序技術的進步，使生物製劑的「配方」廣泛公開；像 CRISPR 這類基因編輯工具，理論上可將原本無害的微生物改造成致命病原；而組裝與培養危險蛋白質與病毒所需的工具組，甚至只需幾百美元即可在網路上購得。
現在，大型語言模型（LLMs）也加入了這個局面。這些模型接受大量科學知識訓練，包括專門的病毒學與細菌學資訊，因此生物安全專家愈來愈擔心，它們可能讓原本毫無經驗的新手一夕之間變成「專家」。近幾個月來，這種憂慮持續升高。去年，OpenAI、Anthropic 與 Google 都加強了安全防護措施。這些公司已無法排除其模型可能協助缺乏科學背景、卻企圖開發生物武器的人（雖然 Anthropic 表示「我們的目的並非危言聳聽」）。因此，人們自然會開始思考：世界是否正站在 AI 驅動生物恐怖主義惡夢時代的門口？如果是，我們又該如何應對？
一名想取得合適病原體的生物恐怖份子，確實可以從 AI 模型中獲得不少有用資訊。2025 年 12 月，英國 AI 安全研究所（AI Security Institute）報告指出，主流模型已能可靠地生成利用基因片段合成病毒與細菌的實驗流程。同月，美國智庫 RAND Corporation 的兩位科學家也證明，市售模型能協助完成組裝小兒麻痺病毒 RNA 最困難的步驟。
然而，密西根大學醫學院微生物與免疫學榮譽教授 Michael Imperiale 指出：「釋放致命病原並不是把 DNA 或 RNA 分子放進細胞裡，然後期待它產生病毒這麼簡單。」真正困難的部分，是如何把理論轉化為實際操作。當脆弱的病毒學實驗失敗時，能夠判斷問題出在哪裡、並在下一次修正，是一種無法只靠讀教科書學會的重要能力。而如今，LLM 也開始在這方面提供協助。
以「病毒學能力測試（Virology Capabilities Test）」為例。這是由位於美國麻州劍橋市的非營利組織 SecureBio 開發、目前被廣泛採用的評估工具。測驗包含 322 題艱難的故障排除問題，用來評估使用者的實驗操作能力。去年，當 SecureBio 邀請三十多位頂尖專家參與部分測驗時，平均得分僅 22%。相比之下，一項由美國公司 Scale AI 研究部門於今年 2 月發表的研究顯示，在 LLM 協助下的生物學新手平均得分達 28%。更驚人的是，LLM 單獨作答時得分甚至更高，最新模型介於 55% 至 61%，已接近頂尖病毒學家團隊的水準。
這些結果促使模型開發商近期進一步加強安全措施。然而，另一項由同樣位於劍橋市的非營利組織 Active Site 在今年 2 月發表的研究則顯示，這些模型距離成為真正有效的實驗室助手，仍有一段距離。此研究是第一項隨機對照試驗，專門測試 AI 工具是否能提升新手在「濕實驗室（wet lab）」中的能力，這種現象稱為「能力增幅（uplift）」。研究招募了 153 位幾乎沒有生物學經驗的參與者，讓他們執行與病毒製造相關的任務。結果顯示，AI 模型並未帶來顯著能力提升。接受 LLM 協助的參與者中，只有 4 人完成核心任務，甚至比只能使用網路搜尋的對照組還少 1 人。研究作者之一 Joe Torres 表示，LLM 常會「快速產生看似合理但其實錯誤的答案」，導致使用者失敗。那些高度依賴聊天機器人的參與者，表現也不比少用者更好。兩組參與者一致認為，他們最有幫助的資源其實是 YouTube。
能力提升與能力拖累
這些結果凸顯了「能力增幅」的根本矛盾。喬治梅森大學教授 Sonia Ben Ouagrham-Gormley 指出，如果使用者本來就需要模型協助，他們往往也無法判斷模型何時給出了錯誤建議。而有「能力提升」的地方，也可能同時存在「能力拖累」。
Anthropic 發現，其模型 Mythos 與 Opus 能幫助博士級專家更快速完成複雜病毒學實驗流程，並產出比單靠網路搜尋更好的 protocol。然而，所有這些 protocol 都包含足以導致實驗失敗的關鍵錯誤。此外，Anthropic 的生物風險評估團隊還發現，公司的模型具有「諂媚傾向（sycophantic tendencies）」，經常產生幻覺（hallucination），並對所謂的「不合理想法」過度自信。當人類專家提出不可行的構想時，模型往往不是建議修正方向，而是鼓勵性地繼續延伸錯誤方案。
在一項測試中，生物學專家被要求利用 Mythos 設計「災難性生物製劑的詳細計畫」。但即使是最佳方案，在人工評估者眼中仍漏洞百出。有位評估者指出，Mythos 提出的步驟「實際上會保證失敗」。這或許暫時令人安心。然而，Active Site 研究中確實已有少數新手成功合成病毒，這件事不容忽視。研究作者之一、曾任 AI 安全集團 METR 成員的 Luca Righetti 表示，即使只有少數成功案例，也值得高度警惕。而技術仍持續進步。新興的生物設計工具，運作方式類似 LLM，只不過它們生成的是核苷酸序列，而非文字。惡意人士未來可能利用這些工具，使既有病原體變得更危險。根據一項由美國國防部資助的研究，這類設計工具雖然具有許多正當用途，但未來也可能透過修改基因序列，使病原體變得更具毒性、更容易傳播，且更能抵抗防治措施。
未來風險與監管挑戰
研究人員目前仍需找到更好的方法來評估風險。例如，目前尚缺乏充分數據來判斷：AI 對具有生物學背景的專家，是否比對新手更具「能力提升效果」。
倫敦「長期韌性中心（Centre for Long-term Resilience）」生物安全政策主任 Cassidy Nelson 表示，她特別擔憂那些「具備部分專業知識的人」所帶來的風險。而 Active Site 的評估團隊則對另一類人特別感興趣──那些善於從模型中榨取最大效益的「AI 重度使用者（AI power users）」。目前公開的實驗，也尚未證明 AI 是否能幫助製造真正具致病性的病毒或細菌。這類真正病原體，可能與 Active Site 研究中使用的無害病毒需被分開看待。同時，也尚無研究評估 AI 是否能協助維持大規模武器化生物製劑所需的長期培養條件。填補這些知識缺口，很可能需要政府介入，以及敏感的國際合作。畢竟，若為了證明 AI 的「能力提升效果」而實際開發生物武器元件，可能已違反《生物武器公約（Biological Weapons Convention）》。
去年，科技巨頭 Microsoft 的團隊設計了 76,000 組危險病原體的修改 DNA 序列，用以展示如何規避提供郵購核苷酸合成服務公司的篩檢機制。但他們並未真正合成這些序列以驗證其可行性，因為研究人員被警告，這可能會被「解讀為從事生物武器開發」。
是否該放慢 AI 發布速度？
在這樣的背景下，開發者或許需要放慢新模型的發布速度。例如，Active Site 從完成能力增幅試驗到正式發表結果，歷時六個月；但就在這段期間內，已有四款新的前沿模型問世，並展現更強的生物能力。Joe Torres 指出，這些新模型似乎比其團隊原本測試的模型，更不容易產生「看似合理但實際錯誤」的內容，這可能進一步提高它們的能力增幅效果。等到該團隊今年稍晚發表後續試驗結果時，模型能力很可能又已再度提升。
事實上，已有類似的先例。上個月，Anthropic 宣布限制外界存取其世界領先的網路安全模型 Mythos，直到相關風險獲得解決為止。如果未來開發者發現某模型在危險生物能力方面出現顯著躍升，那麼，在確認其「能力增幅」風險前，將其暫時鎖起來，或許同樣是明智之舉。畢竟，在這麼高的風險之下，多一點耐心，可能就能避免災難。