人工智能培訓了解下它所面臨的威脅是什么
2022-02-02點擊量:2422
目前,人工智能技術在網絡安全領域的應用需求強烈,技術優勢突出,產業發展勢頭良好。但是,與人工智能相關的核心算法和技術還不成熟,那么人工智能的威脅是什么呢?人工智能可能會給人類帶來意想不到的后果。人工智能可能無法正確理解人類指令的具體語境,從而導致人工智能系統的運行偏離設計者的意圖,甚至造成災難。人工智能可能會改變人類的思維和價值觀。AlphaGo擊敗世界圍棋冠軍所用的策略是史無前例的。在學習圍棋的過程中,人工智能的思維方式完全不同于人類的思維方式,改變了圍棋的本質和人類傳統的思維范式。人工智能可以實現既定目標,但無法解釋這一過程背后的原理。如果人工智能的計算能力繼續快速發展,它可能很快就能以略微或完全不同于人類的方式優化場景。那么人工智能能夠證明它的場景優化在人類能夠理解的方面更好嗎?如果人類意識不能以自己能夠理解的方式來解釋世界,它自身會發生什么?人工智能可能不是一個恰當的詞。以前,智能機器人能夠在人類認知能力的參與下解決問題。現在,人工智能可以用一種人類從未想過、從未采用過的“思維方式”來解決問題。例如,AlphaZero不需要注入人類游戲數據,僅通過幾個小時的自我游戲訓練,就達到了國際象棋大師的水平。HenryA.Kissinger,EricSchmidt,DanielHuttenlocher于2019年8月聯合發表文章,表示人工智能的革命勢不可擋。三位作者對此持樂觀態度,努力理解人工智能及其后果,并積極應對。把機器可以幫助指導自身的發展,更好地提高自己解決問題的切入點,旨在討論并提出了一些關于“人工智能將改變人類的認知真理和現實”應對不可避免的問題:建立一個新的“道德”人工智能領域;拒絕回答哲學問題的數字助理程序;人類需要進行高風險的模式識別。目前,人工智能技術在網絡安全領域的應用需求旺盛,技術優勢突出,產業發展勢頭良好。然而,與人工智能相關的核心算法和技術還不成熟。...