微软禁警用AI人脸识别:Azure OpenAI服务新政背后的考量

Featured Image
微軟近日宣布修改政策,禁止美國警方使用其Azure OpenAI服務進行人臉識別。在這裡,我們需要先澄清一下,Azure OpenAI服務並不是用來賣麵包的,而是微軟圍繞OpenAI技術打造的一種企業級全面管理服務。這樣解釋清楚了嗎?如果你還是一頭霧水,那就把它理解為一種很高級的技術工具吧。

這次政策變動主要是在Azure OpenAI服務的服務條款中加入了新的語言,禁止與Azure OpenAI服務的整合被警方用於人臉識別,包括OpenAI的文本和語音分析模型的整合。另外,新的政策還明確禁止任何全球執法機構使用移動攝像頭,如身體攝像頭和車載攝像頭,嘗試在”不受控制的野外”環境中識別人臉。

這次變動之所以引人關注,是因為不久前,一家專門為軍方和執法機構製造科技和武器產品的公司Axon,宣布推出一款利用OpenAI的GPT-4生成文本模型來總結身體攝像頭錄音的新產品。批評者很快指出了這種技術可能存在的問題,比如語言模型可能產生的偏見,以及從訓練數據中引入的種族偏見(這尤其令人擔憂,因為有色人種比他們的白人同伴更可能被警察攔停)。

不過,微軟的新政策似乎還留有一些破綻。首先,完全禁止使用Azure OpenAI服務的規定只適用於美國,而不是國際警察。其次,該政策並不覆蓋使用固定攝像頭進行人臉識別的行為,比如在受控環境中,如後勤辦公室進行的人臉識別(儘管新的條款禁止美國警方進行任何形式的人臉識別)。

儘管微軟的這一決定可能讓人振奮,但我們也應看到,這只是微軟近期針對AI相關的執法和防禦合同的一種策略。報道顯示,OpenAI正在與五角大樓合作,包括在一些項目上提供網絡安全能力,從某種程度上,這是對該公司早期禁止向軍方提供AI的政策的轉變。另外,微軟還在推銷使用OpenAI的圖像生成工具DALL-E,以幫助國防部(DoD)建立執行軍事行動的軟件。

總的來說,即使微軟禁止警方使用其AI技術進行人臉識別,但這並不代表微軟在AI和執法領域的努力就此結束。相反,無論是與五角大樓的合作,還是對AI技術的開發和應用,微軟都顯示出強烈的進取心。畢竟,科技的力量在於推動社會進步,但如何利用這種力量,卻需要我們更加謹慎和負責任。

Share this content: