新華社北京１月４日電 記者手記：當只有“斷線”才能阻止人工智能

新華社記者黃堃

最近幾天，一個名為Ｍａｓｔｅｒ的神秘圍棋賬號在一些網站上橫掃人類頂級棋手，先后擊敗了目前世界排名第一的柯潔、韓國目前第一人樸廷桓等多位世界冠軍頭銜擁有者。到４日下午，這個神秘賬號又擊敗了“棋圣”聶衛(wèi)平，目前已經５５勝。

在一連串對局中，目前只有陳耀燁九段阻止了對手５２連勝，不過這是因為他剛下幾步網絡就斷線了，系統(tǒng)最后判定這盤棋是和棋。

雖然Ｍａｓｔｅｒ的真實身份尚未披露，但許多專業(yè)人士認定，沒有人能取得如此強大的戰(zhàn)績，除非它是一只“狗”——去年昵稱“阿爾法狗”的人工智能程序ＡｌｐｈａＧｏ在“圍棋人機大戰(zhàn)”中戰(zhàn)勝頂尖棋手李世石后，“狗”已經成為圍棋界對人工智能程序的代稱。中國圍棋隊總教練俞斌說，不排除Ｍａｓｔｅｒ就是“阿爾法狗”，也可能是新研發(fā)的圍棋人工智能程序。

不管是不是“阿爾法狗”，人類已必須思考，人工智能會帶來什么影響。

首先，必須認識到人工智能正在加速發(fā)展。就在十多年前，許多專家還認為圍棋是“人類智慧最后的堡壘”，人工智能再過一百年也不可能戰(zhàn)勝人類頂尖圍棋手。而就在去年３月，“阿爾法狗”以４：１戰(zhàn)勝了曾多年占據(jù)世界排名第一位的李世石。當時李世石還贏過一盤，而現(xiàn)在各路頂尖棋手在Ｍａｓｔｅｒ前已全無招架之力。

其次，應該認真評估人工智能帶來的機遇和挑戰(zhàn)。機遇很多，像日漸普及的自動駕駛汽車，就是人工智能進入我們生活的一大例證。當然，自動駕駛汽車出事故的消息也已見諸報端，潛在的購買者仍需考慮風險。

真正的挑戰(zhàn)在于，人工智能在充分發(fā)展后是否會對整個人類產生威脅？著名科學家霍金就曾提出過這方面的擔憂。如果有朝一日人工智能掌握了各種重要基礎設施和武器系統(tǒng)，稍有不慎就可能讓人類面臨風險。

那是不是要讓所有人工智能“斷線”阻止它們進一步發(fā)展呢？現(xiàn)在倒還不必，因為目前的人工智能仍有許多限制，以“阿爾法狗”為例，它首先需要海量樣本的訓練，而人類學習新事物時往往只需很少的樣本。其應用范圍離“通用人工智能”還有很大距離，不像人類，一個小學生就能學會下棋、繪畫等多種才藝。

就算將來的人工智能全面超越人類的智商，我們也至少可以在其底層施加一些限制措施，比如著名科幻作家阿西莫夫提出的“機器人三定律”，第一條就是“機器人不得傷害人類”。

關于人工智能，今年還有一大看點。開發(fā)“阿爾法狗”的“深度思維”公司表示，下一個目標是著名即時戰(zhàn)略游戲《星際爭霸》。與圍棋對弈中雙方都能看到所有棋子不同，這款游戲的玩家只能根據(jù)有限的視覺信息來猜測對方行動，因此決策更加復雜，對人工智能的挑戰(zhàn)也更大。如果人工智能在這一游戲中戰(zhàn)勝人類頂尖玩家，是否要“斷線”以阻止其前進？這才是一個考驗。