近年來,仿冒生成式人工智能技術快速迭代,體層AI智能體憑借自動化、出不藏安先鋒5566場景化的窮潛全風服務能力,加速融入生產生活方方面面。仿冒但與此同時,體層大量仿冒AI智能體也集中涌現,出不藏安不僅嚴重混淆公眾認知,窮潛全風更潛藏著多重安全風險。仿冒記者在多個主流大模型平臺實測發現,體層在搜索欄輸入知名企業、出不藏安公共服務機構名稱,窮潛全風均能檢索到大量同名智能體,仿冒先鋒5566其中絕大多數沒有平臺官方認證標識。體層
記者以“南方電網”為關鍵詞在多個主流大模型平臺檢索發現,出不藏安僅單一平臺就出現了超80個相關智能體,名稱覆蓋“電力業務辦理”“招聘咨詢”“內部培訓”等多個高頻服務場景。部分仿冒智能體不僅直接使用企業官方Logo作為頭像,簡介話術也高度模仿官方口吻,偽裝性極強,普通用戶很難一眼辨別真偽。

南方電網“南網求知”科普辟謠平臺編輯馬璦萍:
仿冒智能體發布的不實信息會誤導公眾,給用戶造成一定的損失,我們“南網求知”等官方賬號已經發布了風險提醒。在此也提醒大家一定要認準正規渠道,不要輕易相信未經官方認證的AI智能體信息。

記者調查發現,除了能源類央企,政務服務、金融、通信等多個與公眾利益密切相關的領域,均出現了大量仿冒智能體。這些仿冒賬號借助平臺流量入口觸達用戶,不僅嚴重侵犯了被仿冒主體的知識產權與品牌權益,更給普通用戶埋下了信息泄露、財產損失等多重安全隱患。
仿冒AI智能體藏著哪些不為人知的套路?
AI智能體正快速走進我們的生活,但提供便利的背后也暗藏風險。那么,這些層出不窮的仿冒AI智能體,又藏著哪些不為人知的套路呢?
中國信通院人工智能研究所安全治理部副主任陳文弢:
智能體的仿冒相當于是一些攻擊者或惡意人員偽造出了一些智能體或智能體三方的工具或技能,讓被誘導的用戶去使用,從而竊取用戶的個人信息、企業信息。甚至實現一些跳板攻擊。

智能體可以分為智能體本體和技能工具兩個部分,對應的仿冒行為也主要分為本體仿冒和技能仿冒兩類;從仿冒手段上看,可以分為描述仿冒和功能仿冒。描述仿冒通過搭建類似釣魚網站的偽造界面,或者偽造技能包的名稱和描述,誘導用戶使用;功能仿冒,則是搭建出具備正常交互能力的智能體或技能工具,但在其中嵌入惡意代碼或非法指令。
喜歡這個視頻的人也喜歡···
越南前女首富張美蘭資產接連被拍賣:兩個愛馬仕包起拍價超百萬,游艇降價后仍流拍
宇樹科技發布全球首款量產版載人機甲GD01,可用作民用交通工具,售價390萬元起
早就該擺脫索尼了!《劍星》續作自主發行被玩家吹爆
伊朗:中國在推動停火談判進程中發揮了積極作用
一季度西藏社會消費品零售總額255.83億元
乘客拒付高速費00后車主返程:可以雙輸不能單贏
【科技實話】出游帶臺照片打印機,是智商稅還是幸福感神器?
熱點更多>>
以為是“泥人”,結果是村小組長?
一季度西藏社會消費品零售總額255.83億元
PS5全新界面曝光!排版大變樣 布局更緊湊
國內航線燃油費再漲價,800公里以上單程增至170元
2022電影頻道傳媒榮譽之夜典禮
中興通訊2026一季報出爐:算力與終端雙擎發力,對沖國內基建放緩
PS5 Pro重磅3A《007 初露鋒芒》實機首曝!60FPS穩定無壓力
63歲李連杰公開回應甲亢病情:面容改變、眼球突出
游戲囧圖:玩黑猴卡出男銅bug
視頻丨一影帶百業!“電影+”激活消費新業態
國際足聯被曝愿作出“重大讓步”:報價降低50%以上 爭取讓央視買下版權