把“算法”治理上升到總體安全觀層面

近年來，因數(shù)據(jù)規(guī)模的急劇擴大和運算能力的飛躍提升，基于“算法”的自主收集、挖掘、識別、分析、預警、處理、診斷、決策系統(tǒng)，被廣泛應用于各行各業(yè)，日益滲進社會各領(lǐng)域。

“算法”指的是為解決某個問題、完成某項任務、達到某種目的而采取的處理規(guī)則、運算指令、策略機制。“算法”在為人類社會帶來巨大便利同時，也產(chǎn)生了一些負面作用，如在新媒體領(lǐng)域，媒體內(nèi)容“把關(guān)人”讓位“算法”后，已引起了有關(guān)方面的擔憂。人民網(wǎng)曾連續(xù)3次就“算法推薦”展開評論，批評部分智能新聞客戶端任由傳播內(nèi)容“野蠻生長”，認為“一旦失去節(jié)制的美德，‘算法’也可能誤入歧途，甚至走向創(chuàng)新的反面”。

目前，我國手機網(wǎng)民規(guī)模已達7.88億人，網(wǎng)民通過手機接入互聯(lián)網(wǎng)的比例高達98.3%。各種手機應用多達數(shù)百萬種，幾乎涵蓋社會生活的所有方面，而一旦5G手機全面普及，“算法”將會釋放出更大的技術(shù)效應。

黨的十九大報告指出，“統(tǒng)籌發(fā)展和安全，增強憂患意識，做到居安思危，是我們黨治國理政的一個重大原則”，要求統(tǒng)籌好“傳統(tǒng)安全和非傳統(tǒng)安全”。在信息化智能化不斷深化的背景下，“算法”會催生與衍生出前所未有的社會新現(xiàn)象，如算法政治、算法經(jīng)濟、算法戰(zhàn)爭、算法新聞、算法倫理等。其中有些“算法”導致的結(jié)果，能夠引起人們的警覺，如數(shù)量很少的“網(wǎng)絡水軍”可以利用軟件大量傳播虛假負面信息，誤導整個社會輿論。有些“算法”導致的結(jié)果短時間根本無法感知，如在經(jīng)濟領(lǐng)域，有學者提出了“算法共謀”概念，即通過有意無意的“算法”技術(shù)，即時獲取、調(diào)整、預測價格，對價格偏離與競爭行為進行阻斷，從而實現(xiàn)“沒有競爭者協(xié)議干預價格，卻達到限制競爭的結(jié)果”。 這種基于技術(shù)的價格壟斷現(xiàn)象，具有極強的隱蔽性，完全超出人們現(xiàn)有常識，不能用常規(guī)反壟斷手段進行監(jiān)管。類似“算法共謀”這樣具有破壞作用的現(xiàn)象，在不久的將來，必然會在社會各領(lǐng)域大面積出現(xiàn)。因此，有必要從總體國家安全觀角度，認識“算法”、重視“算法”、治理“算法”。

提高認識水平，增強“算法”風險意識。技術(shù)進步往往攜帶著“價值正確”的社會心理，作為技術(shù)創(chuàng)新或新興現(xiàn)象，“算法”的負面作用還沒有引起全社會重視。在鋪天蓋地的“算法”運作中，“算法”始終隱藏在不為人知的“暗箱”之中，普通民眾處在被動接受甚至隨之“翩翩起舞”狀態(tài)，不僅難以覺察一些“算法”的潛在危害，而且客觀上散播了負面影響。因此，應加大“算法”的宣傳與教育力度，提高民眾認識水平，提升民眾識別能力，營造抵制“惡劣算法”的輿論監(jiān)督環(huán)境。

規(guī)范行業(yè)倫理，遏制“算法”負面影響。技術(shù)只有在人類良心的呵護下，才能發(fā)揮出應有的價值。要在社會主義核心價值觀引導下，以高度的社會責任感，研判不同領(lǐng)域的“算法”應用，對政治、經(jīng)濟、文化、教育、社會倫理、社會心理的可能影響，在充分發(fā)揮“算法”積極作用下，主動修改、完善、規(guī)范“算法”，消除“算法”的價值和倫理缺陷，在技術(shù)不夠成熟情況下，通過人員把關(guān)和人力過濾，加大對“算法”產(chǎn)品的“質(zhì)檢”。

加強執(zhí)法力度，嚴懲“算法”危害行為。“算法”危害本質(zhì)上是人的危害，對于罔顧“算法”危害，單純追求商業(yè)利益，造成惡劣影響的平臺和機構(gòu)，國家應加大執(zhí)法力度，按照有關(guān)法律進行懲戒。在國家重大政治、經(jīng)濟、外交、軍事等活動以及民間突發(fā)事件中，以網(wǎng)絡空間、移動終端等平臺，通過自主設計的“算法”技術(shù)（平臺）或外部引進的“惡意算法”軟件（平臺），故意誤導社會輿情的行為，國家應依法進行追查與問責。

支持技術(shù)研發(fā)，以“算法”治“算法”。消除技術(shù)負面影響，同樣需要技術(shù)的參與?！八惴ā北旧硎侵行约夹g(shù)，但一旦被別有用心的人、組織、外部勢力加以利用，就有可能對不同領(lǐng)域的安全與穩(wěn)定構(gòu)成或隱或現(xiàn)的影響。在“算法”已成為智能化社會運行的基礎性技術(shù)背景下，單是依靠職業(yè)倫理或群眾輿論，是很難對其進行有效治理的。有關(guān)部門應采取應對策略，鼓勵技術(shù)研發(fā)機構(gòu)積極開發(fā)“算法監(jiān)管工具”，通過“好算法”應用，遏制“壞算法”的不良影響。

（作者系長江師范學院重慶教育改革研究中心執(zhí)行主任）

《中國教育報》2019年04月18日第5版