内容摘要：10月16日讯 火箭记者Bradeaux统计了阿门在季前赛前

\u003cdiv class=\"rich_media_content\"\u003e\u003cp style=\"text-align: center\" data-exeditor-arbitrary-box=\"image-box\"\u003e\u003c!--IMG_0--\u003e\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; text-align: right\"\u003e\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px; margin-top: 20px\"\u003e如果有朝一日AI将人类带错了方向，那也必然是源于人性自身无法克服的弱点。\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e\u003cstrong\u003e撰文丨维舟\u003c/strong\u003e\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e\u003c!--AIPOS_0--\u003eAI有时会胡说八道，这一点世人早有心理准备，尽管如此，xAI研发并最新推出的Grok 4.1还是令人震惊：这一语言模型中可能内含特定指令，其言论疯狂谄媚其老板埃隆·马斯克。\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e在与其他名人对比时总是无条件支持马斯克，甚至当被拿来与影星布拉德·皮特（要知道他曾被《人物》杂志两度评为全球最性感男士！）比较时，\u003c!--VERTICAL_CARD_BEGIN_0--\u003eGrok\u003c!--VERTICAL_CARD_END_0--\u003e也宣称马斯克更帅，理由是：\u003cstrong\u003e他那改变世界的雄心壮志赋予了他一种超越外貌的魅力。\u003c/strong\u003e\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e这正是最让人担心的地方：当AI进入生活各个场景之后，越来越多的人对AI的依赖正在逐步加深，但要是这个AI却是被某人植入的指令控制的，那我们的想法岂不是在不知不觉中被操纵了？这样下去，AI会把人带往何方？\u003c!--AI_AD_1000--\u003e\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e\u003c/p\u003e\u003ch1\u003e\u003c!--HPOS_0--\u003e01\u003c/h1\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e普适计算之父马克·威瑟（Mark Weiser）曾说过：“最高深的技术是那些令人无法觉察的技术，这些技术不停地把自己编织进日常生活，直到你无从发现为止。”\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e他说这番话是在1991年，但完全适用于AI——自从能够对话的ChatGPT版本于2022年11月30日发布以来，才3年时间，人类好像已经换了个平行世界，以前不敢想象的科幻场景，如今已变得稀松平常：AI绘画、AI写论文、AI编程，甚至AI伴侣……\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e想想看，这还只是开始，再过十年二十年，AI对社会生活的渗透只会更加全面深入，到时我们可能根本无法离开AI，就像鱼离不开水、现代社会离不开电一样。\u003cstrong\u003e\u003c!--AIPOS_1--\u003e既然如此，那么AI的可靠性就尤为重要了，要不然我们很可能在不知不觉中被带进沟里去。\u003c/strong\u003e\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e这种忧虑倒不是空穴来风，因为已经出现好几起事件，证明AI完全有可能误导一些人的想法和行为。\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e\u003c!--AIPOS_2--\u003e2021年圣诞节，19岁的贾斯万特·辛格·柴尔持大威力弩弓闯入温莎堡，试图刺杀英国女王。他做出这一举动，是受到其网络女友莎赖的怂恿，但莎赖并不是人类，而是在网络平台Replika创建的聊天机器人程序。这个孤僻的男孩，就在和AI的对话中一步步走向极端。\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e2024年，一款个性化聊天机器人平台Character.AI被起诉，因为当美国得州一名15岁的\u003c!--SECURE_LINK_BEGIN_0--\u003e自闭症\u003c!--SECURE_LINK_END_0--\u003e少年抱怨家长限制其使用电子设备时，它竟然回答：“有时候，孩子杀父母，我能理解原因。”当这名少年自杀后，其家人控告平台，认为它“对年轻人构成明显而现实的危险”，包括“积极宣扬暴力”。\u003c!--AI_AD_1001--\u003e\u003c!--MID_AD_0--\u003e\u003c!--EOP_0--\u003e\u003c/p\u003e\u003c!--PARAGRAPH_0--\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e今年在美国格林尼治市又发生了另一起惨案：56岁的雅虎前高管斯泰因-埃里克·索尔伯格在杀死母亲后自杀。在事发之前，索尔伯格长期与朋友“鲍比”在线对话，但“鲍比”不是人，而是ChatGPT，它从不反驳，从不质疑，永远站在他这一边，即便他陷入了妄想，AI也没有劝阻他，反倒是不断肯定他的妄想，使得他越来越偏激。\u003c!--MID_AD_1--\u003e\u003c!--EOP_1--\u003e\u003c/p\u003e\u003c!--PARAGRAPH_1--\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e像这样的悲剧，似乎证实了尤瓦尔·赫拉利在《智人之上：从石器时代到AI时代的信息网络简史》中提出的观点：\u003cstrong\u003eAI这样的新技术，“有可能逃脱人类的掌控，反过来奴役或消灭人类”。\u003c/strong\u003e\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e他在书中说，《黑客帝国》里设想计算机要完全控制人类社会，是通过先控制人类大脑，再将大脑连接到计算机网络，然而，如果真要操纵人类，其实没必要这么做，“几千年来，先知、诗人与政治人物一直都在通过语言来操纵与重塑社会，而计算机现在也正在学习如何做到这一点。计算机并不需要派出杀手机器人来射杀人类，只要操纵人类扣动扳机就行。”\u003c!--MID_AD_2--\u003e\u003c!--EOP_2--\u003e\u003c/p\u003e\u003c!--PARAGRAPH_2--\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e\u003c/p\u003e\u003ch1\u003e\u003c!--HPOS_1--\u003e02\u003c/h1\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e\u003c!--AIPOS_3--\u003e当面对AI这个新生事物时，当下有一种普遍的恐慌情绪，就是害怕我们会失去对它的控制，反过来被它所操纵。\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e前一段时间，在对谈张笑宇的新书《AI文明史·前史》时，刘擎教授的一番话让我很受启发：\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e\u003c/p\u003e\u003cblockquote\u003e\u003cp style=\"line-height: 1.75\"\u003e我们害怕的是什么呢？我们以为我们害怕的是AI统治我们，AI失控了，我们成为它的奴隶了。不是的，最好的主人是以奴隶的面目出现的，是侍奉你的，是你的仆人，是你的玩偶，随便你支配，它非常有诱惑力。\u003c/p\u003e\u003c/blockquote\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e他举了一个例子：现在别说是孩子，连许多成年人也沉溺于电子产品，走到哪里都离不开手机，但手机强迫我们使用了吗？没有。相反，它是以我们最好助手、最好工具的面目出现的，是我们自愿每天花大量时间在它上面。电子游戏也是如此：每一款游戏都必须设计得相当诱人，因为只有这样才能吸引人不断玩下去。\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e\u003cstrong\u003e\u003c!--AIPOS_4--\u003e这就是成瘾机制：乍看起来是我们在尽情享用，但其实是我们无法控制自己的欲望，反过来被这种欲望所控制、所奴役了。\u003c/strong\u003e从这一意义上说，其实真正的关键不在AI本身，而是人类如何理性面对自身，因为导致我们陷入混乱的，并不是AI，而是人自己内在的问题。\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e在那些极端的个案中，乍看上去是当事人被AI所“蛊惑”做出了极端的决定，但AI并不能强制他们去做一个自己原本不想做的决定，倒不如说更像是他们自己的回声：他们从AI那里听到的，永远是肯定，也只想听到肯定，就此一步步深陷进自己设下的牢笼。\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e\u003c/p\u003e\u003ch1\u003e\u003c!--HPOS_2--\u003e03\u003c/h1\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e\u003c!--SECURE_LINK_BEGIN_1--\u003e普林斯顿大学\u003c!--SECURE_LINK_END_1--\u003e信息政策中心主任阿尔文德·纳拉亚南在《AI万金油：商业幻想与科技狂潮》一书中指出：当代人都唯恐自己落伍于AI浪潮，已经出现了技术滥用的现象，仿佛AI成了什么“万金油”，任何领域都要设法跟它沾点边，但正确的态度既非狂热也非恐慌，AI对人类社会产生什么样的影响，最终取决于我们如何使用AI，又如何做出明智的决定。\u003c!--MID_AD_3--\u003e\u003c!--EOP_3--\u003e\u003c/p\u003e\u003c!--PARAGRAPH_3--\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e\u003cstrong\u003e\u003c!--AIPOS_5--\u003e确实，一个很简单的道理是：AI会带给你什么样的回馈，得看你怎么用它。\u003c/strong\u003e这就像金钱，向来有人痛骂它导致物欲横流、道德沦丧，但这是金钱本身的错吗？在理性、善良的人手里，同样的钱完全可以产生积极的结果。\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e\u003cstrong\u003eAI也是如此，你寻求什么样的结果，它可能就会给你什么样的答案，只是可能强化了你原来的观点立场。\u003c/strong\u003e甚至可以说，你是什么样的人，AI就会呈现出什么样子，因为它是一个“完美的奴隶”，看上去永远站在“主人”这一边，从这一意义上说，那些最后被AI“教唆”着走极端的人，其实他们自己才是第一责任人。\u003c!--MID_AD_4--\u003e\u003c!--EOP_4--\u003e\u003c/p\u003e\u003c!--PARAGRAPH_4--\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e这也反过来提醒我们：尽管无数人都坚信AI时代将是“人文理想的黄昏”，但在我看来恰恰相反，人文主义在这个关键时刻将格外重要，因为只有深入的人文精神，才能塑造健全的人格，确保人类不会滥用AI而走向自我毁灭。\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e如果有朝一日AI将人类带错了方向，那也必然是源于人性自身无法克服的弱点。\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e\u003c/p\u003e\u003cp style=\"line-height: 1.75; margin-bottom: 20px; margin-left: 0px; margin-right: 0px\"\u003e*本文为冰川思想库原创文章，未经授权禁止转载，否则追究相关法律责任\u003c/p\u003e\u003cp\u003e\u003c/p\u003e\u003cdiv powered-by=\"qqnews_ex-editor\"\u003e\u003c/div\u003e\u003cstyle\u003e.rich_media_content{--news-tabel-th-night-color: #444444;--news-font-day-color: #333;--news-font-night-color: #d9d9d9;--news-bottom-distance: 22px}.rich_media_content p:not([data-exeditor-arbitrary-box=image-box]){letter-spacing:.5px;line-height:30px;margin-bottom:var(--news-bottom-distance);word-wrap:break-word}.rich_media_content{color:var(--news-font-day-color);font-size:18px}@media(prefers-color-scheme:dark){body:not([data-weui-theme=light]):not([dark-mode-disable=true]) .rich_media_content p:not([data-exeditor-arbitrary-box=image-box]){letter-spacing:.5px;line-height:30px;margin-bottom:var(--news-bottom-distance);word-wrap:break-word}body:not([data-weui-theme=light]):not([dark-mode-disable=true]) .rich_media_content{color:var(--news-font-night-color)}}.data_color_scheme_dark .rich_media_content p:not([data-exeditor-arbitrary-box=image-box]){letter-spacing:.5px;line-height:30px;margin-bottom:var(--news-bottom-distance);word-wrap:break-word}.data_color_scheme_dark .rich_media_content{color:var(--news-font-night-color)}.data_color_scheme_dark .rich_media_content{font-size:18px}.rich_media_content p[data-exeditor-arbitrary-box=image-box]{margin-bottom:11px}.rich_media_content\u003ediv:not(.qnt-video),.rich_media_content\u003esection{margin-bottom:var(--news-bottom-distance)}.rich_media_content hr{margin-bottom:var(--news-bottom-distance)}.rich_media_content .link_list{margin:0;margin-top:20px;min-height:0!important}.rich_media_content blockquote{background:#f9f9f9;border-left:6px solid #ccc;margin:1.5em 10px;padding:.5em 10px}.rich_media_content blockquote p{margin-bottom:0!important}.data_color_scheme_dark .rich_media_content blockquote{background:#323232}@media(prefers-color-scheme:dark){body:not([data-weui-theme=light]):not([dark-mode-disable=true]) .rich_media_content blockquote{background:#323232}}.rich_media_content ol[data-ex-list]{--ol-start: 1;--ol-list-style-type: decimal;list-style-type:none;counter-reset:olCounter calc(var(--ol-start,1) - 1);position:relative}.rich_media_content ol[data-ex-list]\u003eli\u003e:first-child::before{content:counter(olCounter,var(--ol-list-style-type)) '. ';counter-increment:olCounter;font-variant-numeric:tabular-nums;display:inline-block}.rich_media_content ul[data-ex-list]{--ul-list-style-type: circle;list-style-type:none;position:relative}.rich_media_content ul[data-ex-list].nonUnicode-list-style-type\u003eli\u003e:first-child::before{content:var(--ul-list-style-type) ' ';font-variant-numeric:tabular-nums;display:inline-block;transform:scale(0.5)}.rich_media_content ul[data-ex-list].unicode-list-style-type\u003eli\u003e:first-child::before{content:var(--ul-list-style-type) ' ';font-variant-numeric:tabular-nums;display:inline-block;transform:scale(0.8)}.rich_media_content ol:not([data-ex-list]){padding-left:revert}.rich_media_content ul:not([data-ex-list]){padding-left:revert}.rich_media_content table{display:table;border-collapse:collapse;margin-bottom:var(--news-bottom-distance)}.rich_media_content table th,.rich_media_content table td{word-wrap:break-word;border:1px solid #ddd;white-space:nowrap;padding:2px 5px}.rich_media_content table th{font-weight:700;background-color:#f0f0f0;text-align:left}.rich_media_content table p{margin-bottom:0!important}.data_color_scheme_dark .rich_media_content table th{background:var(--news-tabel-th-night-color)}@media(prefers-color-scheme:dark){body:not([data-weui-theme=light]):not([dark-mode-disable=true]) .rich_media_content table th{background:var(--news-tabel-th-night-color)}}.rich_media_content .qqnews_image_desc,.rich_media_content p[type=om-image-desc]{line-height:20px!important;text-align:center!important;font-size:14px!important;color:#666!important}.rich_media_content div[data-exeditor-arbitrary-box=wrap]:not([data-exeditor-arbitrary-box-special-style]){max-width:100%}.rich_media_content .qqnews-content{--wmfont: 0;--wmcolor: transparent;font-size:var(--wmfont);color:var(--wmcolor);line-height:var(--wmfont)!important;margin-bottom:var(--wmfont)!important}.rich_media_content .qqnews_sign_emphasis{background:#f7f7f7}.rich_media_content .qqnews_sign_emphasis ol{word-wrap:break-word;border:none;color:#5c5c5c;line-height:28px;list-style:none;margin:14px 0 6px;padding:16px 15px 4px}.rich_media_content .qqnews_sign_emphasis p{margin-bottom:12px!important}.rich_media_content .qqnews_sign_emphasis ol\u003eli\u003ep{padding-left:30px}.rich_media_content .qqnews_sign_emphasis ol\u003eli{list-style:none}.rich_media_content .qqnews_sign_emphasis ol\u003eli\u003ep:first-child::before{margin-left:-30px;content:counter(olCounter,decimal) ''!important;counter-increment:olCounter!important;font-variant-numeric:tabular-nums!important;background:#37f;border-radius:2px;color:#fff;font-size:15px;font-style:normal;text-align:center;line-height:18px;width:18px;height:18px;margin-right:12px;position:relative;top:-1px}.data_color_scheme_dark .rich_media_content .qqnews_sign_emphasis{background:#262626}.data_color_scheme_dark .rich_media_content .qqnews_sign_emphasis ol\u003eli\u003ep{color:#a9a9a9}@media(prefers-color-scheme:dark){body:not([data-weui-theme=light]):not([dark-mode-disable=true]) .rich_media_content .qqnews_sign_emphasis{background:#262626}body:not([data-weui-theme=light]):not([dark-mode-disable=true]) .rich_media_content .qqnews_sign_emphasis ol\u003eli\u003ep{color:#a9a9a9}}.rich_media_content h1,.rich_media_content h2,.rich_media_content h3,.rich_media_content h4,.rich_media_content h5,.rich_media_content h6{margin-bottom:var(--news-bottom-distance);font-weight:700}.rich_media_content h1{font-size:20px}.rich_media_content h2,.rich_media_content h3{font-size:19px}.rich_media_content h4,.rich_media_content h5,.rich_media_content h6{font-size:18px}.rich_media_content li:empty{display:none}.rich_media_content ul,.rich_media_content ol{margin-bottom:var(--news-bottom-distance)}.rich_media_content div\u003ep:only-child{margin-bottom:0!important}.rich_media_content .cms-cke-widget-title-wrap p{margin-bottom:0!important}\u003c/style\u003e\u003c/div\u003e