ai计算四年之内的数学题(ai计算四年之内的数量)
我们知道,在过去的几年里,AI实验使用的计算能力比以前多得多。然而,就在上个月,OpenAI进行的一项调查对这一发展速度做出了一些初步估计。通过比较AlphaGo Zero和AlexNet,
他们发现现在最大的实验是6年前最大实验规模的30万倍。每年,这里最大的测试规模都呈指数增长,每3.5个月翻一番。
按照这种AI计算趋势,实验的增长速度是惊人的,值得一些分析。本文将讨论两个问题。第一是如果实验的规模还是增长这么快,很快就会变得难以承受,所以这种趋势会逐渐结束。除非经济完全重塑,
否则,这种趋势最多只能持续3.5到10年,取决于支出水平和计算成本如何变化。第二个问题是,如果这种趋势能再保持3.5年,用于AI实验的计算量将超过一些有趣的里程碑。特别是,
一个实验所用的计算量,将超过用尖峰神经元模拟人脑18年所需的总量。一般来说,我们可以说,如果给定相同的效率算法,这种趋势将超过达到成人智力水平所需的水平。在第(1)和第(2)款中,
我将相应地讨论这些问题,在第(3)节,我将讨论这一分析的局限性,并权衡这项工作将如何影响AGI的预测。
纵轴:AI训练所需的计算量,单位为1000亿次浮点运算。
要搞清楚这种AI计算趋势在经济上能持续多久,我们需要知道三件事:测试成本的增长率,当前测试的成本,下一次测试能承担的最大支出。
最大的实验规模每3.5个月翻一番(大约一个数量级,即每年10次)。时间度量=LOG(10,2)*3.5/12=0.9689年,约1年),
但是,每计算单位的成本大约每4-12年降低一个数量级(长期趋势是每4年提高成本10倍,而最近趋势是每12年提高成本10倍)。因此,最大的测试成本每1.1-1.4年增加一个数量级。
目前最大的实验是AlphaGo Zero,其成本可能是1000万美元。
当然,实验的规模取决于谁来做。最富有的玩家可能是美国政府。此前,美国将1%的GDP用于曼哈顿项目,而在阿波罗计划实施期间,美国将0.5%的GDP用于美国国家航空航天局。
那么我们假设AI实验最大的支出也能占到GDP的1%,也就是2000亿美元。鉴于一个数量级的增长需要1.1-1.4年,初步测试规模为1000万美元,
那么根据AI计算的趋势预测,在5-6年内,我们会看到一个耗资2000亿美元的实验。那么,鉴于未来(美国)类似的经济形势,将是这种AI计算趋势的终结。
我们也可以考虑如果政府不参与,这种趋势会持续多久。鉴于民营企业规模小,遇到经济门槛会更快。其中最大的是科技公司:亚马逊和谷歌目前每年的R&D预算约为200亿美元。
那么我们可以假设政府之外最大的独立实验是200亿美元。那么私人部门跟上AI计算潮流的时间大概是政府的3/4,大概是3.5到4.5年。
另一方面,特定硬件的研发也可能使计算成本更低,从而导致趋势更长。如果某种新的硬件让计算便宜1000倍,打破摩尔性价比定律,这个经济门槛可以维持得更久一点,大概3-4年。
为了在真正长的时间内(超过10年)保持AI计算的趋势,经济产出必须每年以一个数量级的速度增长。这确实是一个非常极端的情况,但也不是不可能。
主要是看一些极其强大的AI技术能否带来大规模的经济效益。
当然,要知道这些数字都是上限,所以不排除AI计算的趋势会更快停止(比如AI研究的经济性被证明不及预期),不管是突然停止还是慢慢停止。
相关资讯
-
封闭基金如何计算涨幅的价格(封闭基金如何计算涨幅的呢)详细阅读
封闭式基金如何计算涨幅?基金经理如何运作?这些问题都是投资者关心的。今天我们就来聊聊这个话题。首先我们来看看封闭式基金的特点。封闭式基金是指基金管理人在一定条件…
2024-05-06 02:33:51 273
-
基金赎回0.75怎么计算收益的(基金赎回0.75怎么计算收益率)详细阅读
0.75的基金赎回收益如何计算?答:当基金净值跌破1元时,将触发赎回条件。当然,你也可以继续持有。但需要注意的是,如果兑换时间超过1个月,则视为自动放弃。赎回后…
2024-05-05 22:51:24 896
-
股票估值怎么算出来的(股票估值简单计算公式)详细阅读
股票价格是如何计算的?我们可以看到,2015年6月,股价达到15.6元,随后开始下跌。到2016年1月,股价跌至5.5元。在此期间,股票易手。成交率高达90%。…
2024-05-05 20:14:39 142
-
股票收益如何在投资期间计算的(股票收益如何在投资期间计算出来)详细阅读
投资期间的股票收益如何计算?A股市场股票价格波动较大,在一定程度上影响了投资者的收益水平。因此,在投资股票时,需要考虑影响股价波动的因素,而不是简单地根据自己的…
2024-05-05 12:58:01 836
-
银行贷款利率算法计算器,银行贷款利率算法计算器在线计算详细阅读
大家好,今天小编关注到一个比较有意思的话题,就是关于银行贷款利率算法计算器的问题,于是小编就整理了4个相关介绍银行贷款利率算法计算器的解答,让我们一起看看吧。消…
2024-05-05 12:35:39 0