專家質(zhì)疑OpenAI確保人工智能安全的計(jì)劃,稱可能導(dǎo)致人類滅絕
(資料圖)
OpenAI,ChatGPT的開發(fā)商,近日表示將投入大量資源創(chuàng)建研究團(tuán)隊(duì),旨在確保其開發(fā)的人工智能對人類的安全。公司聯(lián)合創(chuàng)始人指出,超級智能的巨大力量或?qū)?dǎo)致人類被剝奪權(quán)力,甚至人類滅絕,而當(dāng)前我們還沒有一個(gè)有效的解決方案來操縱或控制潛在的超智能人工智能,防止其失控。他進(jìn)一步預(yù)測,比人類更聰明的超智能人工智能可能在未來十年內(nèi)出現(xiàn)。 聯(lián)合創(chuàng)始人強(qiáng)調(diào),人類需要研究比目前更好的技術(shù)來控制超級人工智能,而這就是所謂的“對齊研究”,這門重點(diǎn)研究確保人工智能對人類有益的科學(xué)。他們的研究團(tuán)隊(duì)將會創(chuàng)建一個(gè)“人類水平”的AI對齊研究者,OpenAI將使用20%的計(jì)算能力來解決這個(gè)問題,進(jìn)一步借助大量的計(jì)算能力進(jìn)行擴(kuò)展。 然而,這個(gè)計(jì)劃也受到了一些專家的質(zhì)疑,他們認(rèn)為該計(jì)劃的設(shè)計(jì)存在根本性的缺陷。即最初的人類水平的人工智能可能在解決其安全問題之前就已經(jīng)失控,從而導(dǎo)致嚴(yán)重的破壞。 值得注意的是,人工智能的潛在威脅已經(jīng)成為了研究人員和公眾最關(guān)心的問題。今年4月,一群人工智能行業(yè)領(lǐng)袖和專家簽署了一封公開信,呼吁暫停六個(gè)月開發(fā)比OpenAI的GPT-4更強(qiáng)大的系統(tǒng),他們認(rèn)為這種超級人工智能對社會存在潛在風(fēng)險(xiǎn)。
關(guān)鍵詞:
2023-07-06 16:05:30
2023-07-06 15:48:23
2023-07-06 15:35:52
2023-07-06 14:55:03
2023-07-06 14:15:59
2023-07-06 14:07:13
2023-07-06 14:07:02
2023-07-06 14:04:59
2023-07-06 14:00:41
2023-07-06 13:57:21
2023-07-06 13:52:51
2023-07-06 13:41:29
2023-07-06 13:24:44
2023-07-06 13:08:30
2023-07-06 13:07:41
2023-07-06 13:07:06
2023-07-06 12:57:12
2023-07-06 12:57:07
2023-07-06 12:55:48
2023-07-06 12:47:52
2023-07-06 12:34:05
2023-07-06 12:07:21
2023-07-06 12:05:57
2023-07-06 12:00:14
2023-07-06 11:59:25
2023-07-06 11:57:15
2023-07-06 11:31:32
2023-07-06 11:29:14
2023-07-06 11:27:04
2023-07-06 11:26:46
2023-07-06 11:25:46
2023-07-06 11:15:49
2023-07-06 11:12:21
2023-07-06 11:11:22
2023-07-06 11:09:43
2023-07-06 11:04:16
2023-07-06 10:58:53
2023-07-06 10:57:10
2023-07-06 10:56:58
2023-07-06 10:34:09
2023-07-06 10:07:43
2023-07-06 10:06:38
2023-07-06 10:06:02
2023-07-06 10:05:13
2023-07-06 10:04:59
2023-07-06 10:04:44
2023-07-06 10:03:17
2023-07-06 10:02:20
2023-07-06 10:00:55
2023-07-06 09:57:56
2023-07-06 09:56:54
2023-07-06 09:56:47
2023-07-06 09:06:19
2023-07-06 09:04:23
2023-07-06 09:03:03
2023-07-06 09:01:50
2023-07-06 09:01:49
2023-07-06 08:59:34
2023-07-06 08:59:12
2023-07-06 08:57:55
2023-07-06 08:57:18
2023-07-06 08:57:07
2023-07-06 08:57:06
2023-07-06 08:17:08
2023-07-06 07:20:25
2023-07-06 07:08:16
2023-07-06 07:05:06
2023-07-06 07:00:07
2023-07-06 06:59:47
2023-07-06 06:56:07
2023-07-06 06:14:20
2023-07-06 06:01:40
2023-07-06 05:58:36
相關(guān)新聞