要點:

1. 西北工業(yè)大學李學龍團隊探索人工智能倫理計算，試圖建立倫理的定量計算框架，以解決技術(shù)倫理問題。

2. 人工智能倫理治理已引起廣泛關(guān)注，但倫理的抽象性使規(guī)范難以付諸實踐。

3. 人工智能倫理計算分為高階倫理認知和低階倫理認知兩種范式，旨在規(guī)范機器的倫理行為。

站長之家（ChinaZ.com）10月13日 消息:近年來，人工智能的普及已涵蓋醫(yī)療、教育等多個領(lǐng)域，引發(fā)了一系列技術(shù)倫理問題的緊迫討論。然而，倫理問題的抽象性導致了規(guī)范的困難，這是人工智能倫理治理的主要挑戰(zhàn)之一。

盡管全球已初步達成一些倫理共識，但如何確保智能系統(tǒng)做出公平、善意的決策，如何度量倫理表現(xiàn)，以及如何建立明確的倫理規(guī)范仍然是問題。為了應對這一挑戰(zhàn)，西北工業(yè)大學李學龍團隊提出了人工智能倫理計算的概念，將其劃分為高階倫理認知和低階倫理認知兩種計算范式。

論文地址：https://www.sciengine.com/SSI/doi/10.0000/SSI-2023-0076

高階倫理認知旨在構(gòu)建倫理推理模塊，使機器能夠模仿人類的道德決策機制。這對于處理復雜的倫理困境，如自動駕駛決策，提供了一種方法。然而，這一方法也面臨復雜的人類倫理決策動機和解釋性的挑戰(zhàn)。

低階倫理認知關(guān)注于建立倫理度量方法，無需深入理解倫理機制，通過量化倫理概念來約束機器行為。這在公平機器學習等領(lǐng)域具有重要應用，但度量指標的明確定義和適用范圍仍然需要解決。

總之，人工智能倫理計算旨在通過定量方法規(guī)范機器的倫理行為，無論是高自主性系統(tǒng)還是低自主性系統(tǒng)，都可以從中受益。這一方法有望成為突破人工智能倫理治理困境的關(guān)鍵，為確保智能系統(tǒng)更好地服務人類提供了重要工具。

（舉報）