過去半個世紀,集成電路產業在摩爾定律的指引下飛速發展,算法效率一直保持著大跨度提升。2018年世界上最快的計算機IBMSummit比1945年世界第一臺電子計算機ENIAC計算速度提高了近30萬億倍。
然而,隨著摩爾定律接近物理極限,芯片研發和生產成本大幅上升,未來依靠算力提升計算性能的空間有限。靠提升計算機硬件性能可能越發難以滿足海量計算的需要,未來的解決之道在于提升算法的效率。
MIT的這篇新論文總結了過去80年來,算法效率的提升究竟有多快。
提起算法,它有點像計算機的父母,它會告訴計算機如何理解信息,而計算機反過來可以從算法中獲得有用的東西。
算法的效率越高,計算機要做的工作就越少。對于計算機硬件的所有技術進步,以及備受爭議的摩爾定律的壽命問題來說,計算機硬件的性能只是問題的一方面。
數據:PEPE今日交易額突破4億美元:金色財經報道,據加密KOL borovik.eth在社交媒體披露數據顯示,CoinGecko數據顯示5月2日PEPE交易額達到4.34億美元,超越狗狗幣(3.12億美元)達成新里程碑。Pepe 今年早些時候推出,由于與流行的互聯網模因角色Pepe the Frog關聯迅速贏得了交易者的青睞,自推出以來PEPE價格已上漲1000%以上,已躋身市值前100的加密資產,目前排名第94位。(U.today)[2023/5/2 14:39:03]
而問題另一方面則在硬件之外:算法的效率問題。如果算法的效率提升了,對同一計算任務需要的算力就會降低。
雖然算法效率問題可能不太受關注,但你是否注意到,經常使用的搜索引擎是否突然變快了十分之一,而在大型數據集中活動,就感覺就像在泥濘中跋涉一樣艱難緩慢。
世界銀行集團成員IFC支持建立基于區塊鏈的碳抵消平臺:金色財經報道,世界銀行集團成員國際金融公司(IFC)正在與區塊鏈平臺Chia Network合作,建立“碳機會基金”。參與其中的還有可持續發展金融公司Aspiration和生物多樣性投資者Cultivo,該基金將提供從項目中購買的基于區塊鏈的碳信用額。
據悉,碳抵消是公司通過購買信用額度,資助植樹或可再生能源項目來補償其排放量的一種手段。(CoinDesk)[2022/8/17 12:31:58]
這些都與算法效率有關。
近日,麻省理工學院計算機科學與人工智能實驗室(CSAIL)的科學家提出疑問:算法效率的提升速度到底有多快?
關于這個問題,現有數據大部分是敘事性的,其中很大一部分是面向特定算法的案例研究,再把這些研究結果加以推廣。
數據:Alameda向FTX轉入約3000萬枚USDC:7月6日消息,PeckShield監測顯示,Alameda FTX Deposit錢包地址(0x83a127952d266A6eA306c40Ac62A4a70668FE3BD)向FTX轉入約3000萬枚USDC。[2022/7/6 1:54:56]
面對實證研究數據的不足,研究團隊主要利用了來自57部教科書和1110多篇研究論文的數據,以追溯算法效率提升的歷史。
其中有些論文的結論中直接給出了新的算法有多高效,有的論文則需要作者使用“偽代碼”進行重構。
研究人員總共研究了113個“算法系”,即解決計算機科學教科書中最重要的同一問題的算法集。他們對每個算法族的歷史進行了回顧,跟蹤每次針對某一問題提出的新算法,并特別注意更高效的算法。
供應鏈:顯卡2022年出貨量跌幅或高達2-3成:7月6日消息,據PC供應鏈表示,由于挖礦熱潮消退,顯卡2022年出貨跌幅高達2-3成,顯卡呈現價量齊跌走勢,從英偉達、AMD、英特爾,到板卡、相關芯片等供應鏈影響甚巨。(金十)[2022/7/6 1:53:50]
圖1算法發現和改進。(a)每十年發現的新算法系的數量。(b)已知算法系的比例每十年都有所提高。(c)首次發現時算法系的漸近時間復雜度分類。(d)同一時間復雜度的算法轉換到另一個時間復雜度的每年平均概率。在和中“>n3”的時間復雜度表示超過多項式級,但不到指數級。
最早的算法系可追溯到上世紀40年代,每個算法系平均有8個算法,按時間順序效率逐步提升。為了共享這一發現,團隊還創建了“算法維基”頁面。
研究人員繪制了圖表,標識這些算法族效率提升的速度,重點關注算法分析最多的特征——這些特征往往決定了解決問題的速度有多快。
圖2算法系的相對效率提升,使用漸近時間復雜度的變化計算。參考線是SPECInt基準性能。(a)與該系列中的第一個算法相比,四個算法系的歷史改進。(b)算法改進對“最近鄰搜索”算法系列的輸入大小(n)的敏感度。為了便于比較算法改進效果隨時間的變化,在圖(b)中將算法系和硬件基準的起始時間段對齊。
結果顯示,變數很大,但也發現了關于計算機科學變革性算法效率提升的重要信息。即:
1、對于大型計算問題,43%的算法系的效率提升帶來的收益,不低于摩爾定律帶來的收益。
2、在14%的問題中,算法效率提升的收益遠超硬件性能提升的收益。
3、對于大數據問題,算法效率提升收益特別大,因此近年來,這一效果與摩爾定律相比越來越明顯。
當算法系從指數復雜度過渡到多項式復雜度時,情況出現了最大的變化。
所謂指數復雜度算法,就像一個人猜密碼鎖的密碼一樣。如果密碼盤上只有一位數,那么任務很簡單。如果像自行車鎖一樣,表盤是4位數,估計你的自行車很難有人偷得走,但仍然可以一個個試。如果是表盤是50位的,就幾乎不可能破解了,需要的步驟太多了。
圖3基于漸近時間復雜度計算的110個算法系效率提升的年平均速度分布,其中問題規模為:(a)n=1000,(b)n=100萬,(c)n=10億。硬件性能提升線表示從1978年到2017年,SPECInt基準性能的平均年增長率
這類問題也是計算機面對的難題,隨著問題的規模越來越大,很快就會超過計算機的處理能力,這個問題光靠摩爾定律是解決不了的。
解決之道在于找到多項式復雜度的算法。
研究人員表示,隨著摩爾定律終結這個話題越來越多地被提及,我們需要將未來的解決方案的重點放在算法的效率提升上。
圖4前導常數在算法性能提升中的重要性評價
研究結果表明,從歷史上看,算法效率的提升帶來的收益是巨大的。不過二者之間存在著頻度的差異,摩爾定律帶來的提升是平滑而緩慢的,而算法效率的提升是階梯式的躍進,但出現沒那么頻繁。
本文通訊作者尼爾·湯普森說:
這是業界第一篇說明算法效率提升速度的論文。通過我們的分析,可以得出算法改進后,使用同樣的算力可以完成多少任務。
隨著問題的規模不斷增大,比如達到數十億或數萬億個數據點,算法效率的提升帶來的收益,比硬件性能的提升更重要,而且重要得多。
在我們開始逐步為算力不足發愁的時代,在摩爾定律越來越顯出疲態的今天,這一發現可能為未來解決超大型計算問題開辟一條新的思路。
參考鏈接:
https://news.mit.edu/2021/how-quickly-do-algorithms-improve-0920
https://ieeexplore.ieee.org/stamp/stamp.jsp?tp=&arnumber=9540991
編輯:星際視界Sue
親愛的BitGlobal用戶:中秋將至,BitGlobal特此舉行“中秋獻禮暢贏$20,000美金大獎”特別活動.
1900/1/1 0:00:00親愛的幣在·BitZ用戶:為了提高產品性能,給您帶來更優質的交易體驗,幣在·BitZ將于2021年09月23日17:00-18:00進行雙倉合約交易系統升級,預計時長1小時.
1900/1/1 0:00:00尊敬的社區用戶: BHEX將恢復主流幣最小充值額度限制,即所有幣種充值額度累計達到最小充值額度即可入賬.
1900/1/1 0:00:00巴比特訊,9月23日,互聯網企業第九城市、以太坊擴展和基礎設施開發平臺Polygon,以及分布式存儲協議IPFS和Filecoin的開發及運營商ProtocolLabs聯合宣布.
1900/1/1 0:00:00尊敬的XT用戶: XT即將上線ATBFIG(FinancialIntelligenceGroup),并在創新區開放ATBFIG/USDT交易對。具體開通時間,請關注后續公告.
1900/1/1 0:00:00據TheBlock9月23日消息,基于Solana的“DAO基礎設施”協議GrapeProtocol完成120萬美元的種子輪融資,MulticoinCapital領投.
1900/1/1 0:00:00