良十四世首度通諭《偉大的人類》：AI不應助長新形式的奴役

同Gemini傾偈、睇AI reels⋯⋯當人工智能更接近日常，對生而為人的我們，將有甚麼影響？天主教教宗良十四世發表的首道通諭《偉大的人類》(Magifica Humanitas）昨天（25日）公佈，主張AI必須被「卸下武裝」，意思「不是要排除科技，而是避免人被科技主宰」，人的脆弱並非需要科技進步去解決的缺陷，而是建構人性的關鍵元素。「人之花綻放，並非因為排除限制，而是透過這些缺口盛開」。(humanity flourishes not despite limitations, but often through them). 

▍ 求學的熱情、勞動的尊榮，都不應奪去

《偉大的人類》第四節指出，AI撮要及提供答案的速度及方便，容易讓青年人誤以為人的思想微不足道，減弱他們提問的熱情。良十四世認為，教育是一場需要耐性磨煉的旅程，必須經歷漫長的討論及努力，才能觸發靈感。「其實現在才是最需要人類思想的時候」。

當AI的演算法被用在電子平台，收取用戶數據，決定讓他們看見甚麼，吸取其注意力，模塑其意見與行為，良十四世就認為是「更細微的危險」，不僅牽涉一個人的內在自由，更影響公共生活。當電子平台因應用戶數據，將貸款、求職等資訊推給他們，會造成知情度的不對等。

AI 另一個功能，是取消重複冗悶的任務。良十四世指出，如果工作的重心在於表現的效率，而不是系統之中的人，那就會為了減低成本而造成失業，而他就不認為這是理想的情況。

▍  勿讓AI助長奴役

通諭指出，人工智能的發展、每個即時的回應，背後有一條很長的中介產業鏈，牽涉不少廉價勞工，甚至被奴役的人。良十四世指，在世界的某些角落，甚至有不少孩子、青年在危險情況下採集稀土資源，即是製造手機的原材料。「這些人的身體受傷、疲憊、佈滿傷痕，只是為了讓電子資訊可以順利流通」。

教宗又為過往天主教對奴隸制的緩慢回應「請求原諒」。教廷在十九世紀才正式譴責奴隸制，中世紀仍有不少人（包括教會建制）「擁有奴隸」，良十四世認為「是基督徒集體回憶之中的傷口」，無法從其中抽離。所以，他覺得必須保持警惕，避免AI助長讓奴隸制度借屍還魂。

教宗指出，無論科技發展有多先進，人的尊貴與傷口，都不應被取代或超越。「人的苦難可以被減輕，但人性的質地不能被否定。」否則，會迎來人類心靈集體的倒退。

文：Jon