DeepSeek以極低的成本與低階晶片就能凌駕ChatGPT,美國馬上掀起輿論戰,說DeepSeek抄襲(Copy)、蒸餾(Distill)、盜取(Steal) ChatGPT的大模型,許多「反中」華人也跟著響應。版主寫過,解放軍有能力輕易渡海接收台灣,習近平唯一擔心的是川普會發動輿論戰,因此只要川普點頭,兩岸馬上就統一了。
版主不是AI專家,但AI是模仿人腦,提到對人腦的認識,版主絕對比AI工程師強。人造晶片分五大類,CPU/GPU/Analog分別處理輸入的程式/圖形/光線-聲音,在神經細胞是從胞膜的Receptor接受Ligand(Growth factors、Cytokines、Neurotransmitters)的刺激,下游是一連串由蛋白組成的訊息傳遞鏈(Signal transduction proteins),最終由Prion或Prion-like protein(PrLP)接收訊息發生聚集,儲存在腦神經細胞內的記憶及邏輯區塊,就是訓練AI的記憶及邏輯晶片。記憶是學習的基礎,邏輯是從記憶的訊息加以推理及運算。天資好的人,接受知識訊息之後,PrLP聚集非常快,因此記憶及推理能力強。PrLP正常聚集後,會隨著時間而散開,因此記憶會逐漸消退,等到某項記憶完全消退之後,推理及運算也就喪失。18歲學的微積分,到60歲可能全部忘記。已聚集的PrLP也會影響Signal transduction proteins及神經傳導相關的基因轉錄,形成一個記憶及學習的網路(Network)。
https://www.science.org/doi/10.1126/scisignal.aac9389
https://www.cell.com/neuron/fulltext/S0896-6273%2815%2900428-6
https://www.cuimc.columbia.edu/news/long-term-memories-are-maintained-prion-proteins
1.CPU/GPU/Analog的位置在Signal transduction proteins
2.記憶晶片及邏輯晶片的位置在Memory/Learning
AI缺乏Gene expression,因此永遠無法超越Human intelligence,因為人類無法創造23對染色體的32億對鹼基。
文章標籤
全站熱搜

後面這篇不知道是誰寫的,但深入淺出的舉例講解,令人一目瞭然。至於正確與否,就見人見智啦! 轉貼: DeepSeek 的智慧模仿戰略:從高端料理學院的「廚藝大賽」,到美中 AI 技術對抗的新戰場? 想像有一座全球頂級的料理學院,OpenAI 是這裡最頂尖的主廚,他花了多年時間,研發出了一道 「GPT-4 天價料理」。這道料理的特色是: • 用最昂貴的食材(NVIDIA H100 高端 GPU) • 由最厲害的廚師(頂級 AI 研究員)製作 • 調理過程極為繁瑣(耗費 10 億美元訓練成本) • 只有豪華餐廳(大企業)能負擔得起 這使得 OpenAI 的餐廳成為 AI 世界的米其林三星級存在,只有少數公司能使用這道頂級 AI 料理。 但某天,DeepSeek 這位來自中國的年輕廚師 走進這家學院,他品嚐了 OpenAI 的料理後,開始思考: 「這道菜確實很棒,但真的需要這麼貴嗎?如果我能用更簡單的方法做出相似的味道,甚至讓更多人都吃得起呢?」 這是 AI 產業的關鍵問題,也是 美中科技競爭的縮影。DeepSeek 不只是要做出這道菜,它還希望繞過美國對 AI 晶片的封鎖,並用開源策略反擊 OpenAI 和 NVIDIA。 於是,DeepSeek 開始用三種方法破解這道 AI 名菜——這不只是技術創新,更是一場 美中 AI 競爭的新回合。 第一步:智慧模仿(學霸筆記版學習) DeepSeek 並沒有偷走 OpenAI 的秘方,而是: 1. 細細品味料理的味道(分析 GPT-4 的輸入與輸出模式) 2. 研究它的組成(拆解 AI 模型的架構) 3. 分析主廚的烹飪習慣(模仿 GPT-4 的推理邏輯) DeepSeek 開始寫下一本「學霸筆記」: • 「這道菜的核心風味來自這幾種關鍵香料……」 • 「這道菜的調味方式很特別,但有沒有更簡單的方式達成同樣效果?」 • 「如果不用名貴的食材,而是用價格較低的替代品,能否達到 90% 的相似度?」 這就像 DeepSeek 透過蒸餾技術(Distillation)學習 GPT-4 的行為模式,而不是直接複製 GPT-4 本身。 → 美中對抗視角 美國立場: 「DeepSeek 竊取了 OpenAI 的技術,搭便車!」 中國立場: 「這只是智慧模仿,並沒有抄襲 GPT-4!」 這正如過去日本汽車業學習美國汽車技術,然後透過 精益生產(Lean Production) 超越美國汽車工業。 第二步:組合式創新(食材 + 烹飪技術優化) DeepSeek 發現 OpenAI 的料理過於昂貴和繁瑣,於是決定進行組合式創新: • 「我們不一定要用頂級牛排(高階 GPU),改用平價牛排(低端 GPU)也能做出好料理!」 • 「如果讓廚房團隊分工合作(MoE),可以加快烹飪時間、降低成本!」 • 「如果調味精度降低一點(FP8 混合精度計算),成本能再降一半!」 • 「如果設計成三階段烹飪法(多階段訓練),味道可以更靈活適應客戶需求!」 這些技術的組合,使 DeepSeek 的 AI 訓練成本降至 600 萬美元,而非 OpenAI 的 10 億美元。 → 美中對抗視角 美國立場: 「DeepSeek 在美國封鎖晶片的情況下,還能訓練出 GPT-4 級別的 AI,這是中國的科技突圍戰!」 中國立場: 「我們用創新技術降低了訓練成本,這不只是國家支持,而是技術突破!」 這其實與中國的電動車產業發展類似: • 美國 Tesla 領先,但中國 BYD 透過技術優化與低成本戰略反攻全球市場。 第三步:開源策略(讓人人都能做這道菜) DeepSeek 這位聰明的年輕廚師,煮出了「平價版 GPT-4 料理」後,做了一個讓所有人驚掉下巴的決定——他開源了這道菜的食譜! • 這意味著每個廚師、每間餐廳都可以免費使用這份食譜,不再需要支付高昂的費用來請 OpenAI 名廚來做菜。 • 原本只能在高端餐廳享受的 AI 料理,現在變成了街頭巷尾的平價美食,打破了 OpenAI 在 AI 市場的壟斷。 這就像 DeepSeek 透過開源 AI 模型,讓企業和開發者可以免費使用 AI 技術,而不必向 OpenAI 支付昂貴的 API 費用。 → 美中對抗視角 美國立場: 「中國用開源策略削弱了 OpenAI 的商業模式,這是對美國 AI 企業的打擊!」 中國立場: 「開源能讓技術普及化,我們讓 AI 更民主化,這是技術進步的必然趨勢!」 這與 Google Android 與 Apple iOS 競爭的歷史相似,開源模式可以擴大影響力,但也會削弱商業控制權。 DeepSeek 的戰略成功,影響了哪些人? 當 DeepSeek 這道「智慧 AI 料理」成功推出後,它不僅影響了 OpenAI,還影響了整個 AI 產業鏈。 1. 對 OpenAI 而言:它的高端餐廳模式受到挑戰 • OpenAI 可能被迫: • 開發更高端的料理(GPT-5),確保自己仍然保持領先。 • 封鎖自己的秘方(限制 API 存取),避免被其他人學習。 2. 對 NVIDIA 而言:高端食材需求下降 • DeepSeek 的技術讓「低價食材(低端 GPU)也能做出好料理」,這可能: • 減少中國市場對 NVIDIA H100 的需求,影響 NVIDIA 營收。 • 促使中國企業尋找 AI 晶片替代方案,如華為、寒武紀等 AI 晶片公司。 3. 對台積電而言:廚具市場發生變化 • 如果大家不再需要昂貴的烹飪設備(高端 AI 晶片),那麼台積電可能會失去一部分高端市場的需求。 • 但另一方面,DeepSeek 的新技術(FP8 計算)可能會帶動新的 AI 晶片設計需求,讓台積電找到新的成長機會。 結論:DeepSeek 不能單純視為「抄襲」,而是「產業破局者」 DeepSeek 這位年輕廚師,透過智慧模仿、組合創新、開源策略,打破了 OpenAI 與 NVIDIA 在 AI 領域的壟斷,這不只是技術創新,而是一場「美中科技冷戰」的新回合。 這場 「AI 料理戰爭」才剛剛開始,未來 AI 市場的競爭將更加激烈,也將決定「開源 vs. 商業壟斷」這場技術競賽的最終贏家。
https://www.youtube.com/watch?v=F6yvFkAJsLM 這一則影片,DeepSeek寫出版主的想法:中國人發展的AI與中國的文字息息相關。以中文為母語的人,從出生聽父母親講話就打開某些神秘的DNA序列,這些DNA序列,只有中文的形與音能在小孩學中文時打開。
人類目前看到的物質世界可能只是大腦的計算機投影,宇宙本源是萬物一體,內心的智慧才是真的,外在的世界是如同人腦的像AI般的虛擬投影,靈魂(能量)因為有「意識」藉由虛假的投影變化(物質)修煉內在本來宇宙共有的實相(智慧)。 目前的AI 「沒有意識」,只能藉由比人類出色的運算能力快速計算出「已經有的知識」,人類的寶貴在於能「從已知探討未知的創新能力」,因為人類有意識思考,人類的智慧只開發了大腦的很小一部分,人類智慧源自於向內心的探討,能夠通達宇宙共有的資料庫,因此能夠呈現新的基因表現,俗話說頓悟,這是一種來自宇宙的直覺能力,遠比智商重要,發明創新主要源於直覺靈感引發的智慧。智慧能夠更準確判斷重點精髓在哪,智商只能夠快速整合資料,但抓不到正確的重點,所以高智商的AI如GPT的答案有時繞了一圈寫了一堆才得出答案,有時還寫錯。有智慧的人類一眼看穿精髓,以最少的文字表達最正確的重點,中文智慧才能夠簡潔扼要表達精髓重點,所以老子道德經5000字左右以中文字道盡宇宙的一切,高智商的人及AI不能完全讀懂,高智慧的人才能正確讀懂。人類的智慧大道至簡,AI複雜計算只適合快速查找整合資料,正確精簡判讀重點遠不及人類的智慧。 就舉新冠疫苗為例,全球高智商的專家及AI,都是笨蛋;只有有智慧的人類一眼看穿真相,以最簡單的中文字表達深刻的道理。
宇宙的本質,萬物一體,即上帝智慧,就存在於每個人內心中。每個人開發的程度,因人而異。
換句話說,人類的智慧源自上帝賦與的傑作,AI永遠無法超越。
「中國的文字」擁有的能量最能通達宇宙中上帝擁有的智慧: AI 會因為中文的思考發展使得中國的AI模式變成全世界主流,以英文思考的AI未來一定會被以中文思考的AI取代。 https://cdn-news.org/News.aspx?EntityID=News&PK=000000003fcc0f8610ce08495be2ca4e96293a77419b0ed0 https://www.facebook.com/share/1ABFtFq9LJ/
是中國人賦與了中文思考AI「智慧的能量」,美國最後AI從此一撅不振,會反過來學習中文,20、30年後中文會變世界主流通用文字。全世界都要學習中文才能國際化。
中國人的思想(意識)約20、30年後會成為世界主流。 中國人的思想乃來自於千年屹立不搖的中華傳統文化。 中文(中國文字)是通達上帝智慧的「東方神秘力量」。
是否可簡述為open-ai 根本沒有開源「權重」,是要如何訓練 DeepSeek 的模型? 當然可以。以下是一個簡化的解釋: OpenAI 沒有開源權重,DeepSeek 如何訓練模型? OpenAI 的權重未開源: OpenAI 的模型(如 GPT-3、GPT-4)的核心權重和訓練數據並未開源。這意味著其他開發者無法直接訪問和使用這些權重來訓練或改進模型。 DeepSeek 的獨立訓練: 自研模型架構:DeepSeek 採用了自研的模型架構,如 Mixture of Experts(MoE)架構,而不是直接使用 OpenAI 的模型架構。 自研訓練數據:DeepSeek 使用了自採集和公開可用的數據集進行訓練,而不是依賴 OpenAI 的訓練數據。 自研訓練過程:DeepSeek 的訓練過程完全獨立於 OpenAI,包括預訓練、微調和強化學習等階段。 技術細節: 預訓練:DeepSeek 在大規模數據集上進行預訓練,這些數據集包括公開數據集和自採集的數據,確保模型能夠學習到豐富的知識和信息。 微調:通過監督學習對預訓練模型進行微調,以適應特定的任務和數據。 強化學習:使用強化學習進一步優化模型的性能,特別是在生成任務中。 總結 OpenAI 沒有開源其模型的核心權重和訓練數據,因此 DeepSeek 的開發團隊通過自研模型架構、自研訓練數據和獨立的訓練過程來訓練 DeepSeek 模型。DeepSeek 的訓練過程完全獨立於 OpenAI,確保了其自主性和創新性。希望這些建議對您有所幫助!如果您有更多具體的問題,歡迎隨時提問。 open-ai 根本沒有開源「權重」,是要如何藉由他的 AI 來 訓練 DeepSeek 自己的AI模型?漂亮國鬼話連篇⋯ 在神經網絡中,權重(weight)確實是關鍵的參數,它們決定了神經元之間的連接強度,並通過學習過程不斷調整以優化網絡的性能。以下是更詳細的解釋: 1. 權重(Weight)的作用 連接強度:權重表示神經元之間的連接強度。在神經網絡中,每個神經元的輸出會通過權重傳遞給下一個神經元。權重的值決定了輸入信號的強度,從而影響下一個神經元的激活程度。 學習過程:在訓練過程中,神經網絡通過調整權重來最小化損失函數,從而優化模型的性能。這個過程通常稱為「反向傳播」(Backpropagation)。 2. 激活函數(Activation Function) 非線性變換:激活函數引入了非線性因素,使得神經網絡能夠學習複雜的模式和關係。常見的激活函數包括 ReLU(Rectified Linear Unit)、Sigmoid 和 Tanh 等。 神經元激活:激活函數決定了神經元是否被激活,以及激活的程度。通過激活函數,神經元的輸出可以是非線性的,這使得神經網絡能夠處理複雜的任務。 3. 神經元的連接 前向傳播:在前向傳播過程中,輸入數據通過神經網絡的每一層,每個神經元的輸出通過權重傳遞給下一層的神經元。這個過程可以表示為: i=1 z = ∑w i⋅xi +b n 其中,w i 是權重,x i 是輸入,b 是偏置項,z 是加權和。 激活:加權和 z 通過激活函數 σ 進行非線性變換,得到神經元的輸出: a=σ(z) 4. 反向傳播 誤差計算:在訓練過程中,神經網絡通過計算損失函數(如交叉熵損失、均方誤差等)來評估模型的性能。 權重更新:通過反向傳播算法,計算損失函數對每個權重的梯度,並根據梯度下降法更新權重。這個過程可以表示為: Wnew = Wold −η⋅ ∂w/∂L 其中,η 是學習率, ∂w/∂L 是損失函數對權重的梯度。 5. 權重的初始化和優化 初始化:權重的初始值對訓練過程有重要影響。常見的初始化方法包括隨機初始化(如 Xavier 初始化、He 初始化)。 優化算法:為了更高效地更新權重,可以使用各種優化算法,如 SGD(隨機梯度下降)、Adam、RMSprop 等。 總結 您的理解是正確的:權重在神經網絡中起到了關鍵作用,通過調整權重,神經網絡能夠學習輸入數據的特徵,並優化模型的性能。激活函數引入了非線性因素,使得神經網絡能夠處理複雜的任務。通過前向傳播和反向傳播,神經網絡不斷調整權重,以最小化損失函數,從而實現自我學習和優化。
請問版主認為意識的本質是什麼?未來的AI有可能獲得意識嗎?
意識的本質是神造的基因,儲存在人的染色體中。AI的本體是矽,遠遠遜於DNA,是神造與人造的差別。
意識的本質是能量靈魂,萬物一體,當未來人類有辦法能為AI賦與了意識,該意識並非來自AI機器本身,假設是中文模式(中國式思考)的AI有了意識,人類已不只限於三維世界,AI可以跟人類和平共存;假設是英文模式的AI有了意識,AI會不甘成為奴隸反噬人類,人類會滅絕。 (個人看法參考,歡迎提出其他想法)
如同孔子所說:「未知生,焉知死」, 就算AI有了意識,仍然缺少了人類的完整性; 可以想像人類其實是造物主上帝宇宙的縮影, 當你過度追求AI外在的功能很容易迷失自我, 人類應該學習中國人千年傳統文化談討內心。
人體是一個小宇宙,人類永遠無法創造宇宙; AI 永遠無法擁有如人體天生完整DNA的特性。 人類若想當上帝,自己修改或創造DNA,會被上帝天擇; 如同新冠疫苗的mRNA疫苗、AZ疫苗「會改變人體DNA」。 https://m.facebook.com/nt/screen/?params=%7B%22note_id%22%3A351166672886493%7D&path=%2Fnotes%2Fnote%2F
中文(中國文字)是通達上帝智慧的「東方神秘力量」。 https://wleemc.pixnet.net/blog/post/122559569