
存储器不仅是数据存储的媒介,更是现代计算技术中乘积函数的重要组成部分。权重被存储在存储器中,激活数据作为输入,通过这种方式,可以有效减少数据移动和功耗。实现这一目标的方法众多,包括运用RRAM、闪存或SRAM等新型存储技术。而关于DRAM的运用,虽然属于新兴领域,但仍需解决诸多技术难题,以实现计算和存储的完美结合。
在人工智能的竞赛场上,各大公司竞相打造最佳的机器学习引擎。这背后意味着以最少的功耗进行最快的推理过程。要降低功耗的关键在于解决存储墙的问题,也就是如何有效地移动大量必要数据的问题。当前,我们面临的方法是如何优化处理数十亿条数据的转移。
近期,我们看到了新的推理体系结构的出现,它调整了内存带宽和局部性,尝试以更快的速度和更低的功耗来减少数据的移动。现在,我们想要深入探讨另一种解决方案:内存内计算。
在传统的架构中,乘累加(MAC)电路用于张量数学的运算,特别是矩阵乘法(GEMM)。在这种模式下,激活数据和权重的移动方式对于电路的安排至关重要。激活数据通过网络层的计算得出,而权重则存储在特定的存储单元中。乘法操作通常涉及激活数据和权重的互动,因此必须将两者都转移到执行乘法的引擎上。这里存在的问题是数据移动带来的能耗和效率问题。
内存内计算利用了这样一个事实:可以将存储单元视为模拟单元以降低功耗。我们在推理引擎前端已经看到了模拟技术的应用。内存内计算则进一步将这种模拟技术应用到内存中。我们通过数字数据获取,然后使用DAC将其转换为模拟值,驱动模拟存储器的内容,获得模拟位线输出,最后使用ADC将结果转回数字格式。这是一种有效降低功耗的方法,通过减少在数字域和模拟域之间转换所需的数据移动量来实现。
要达成这个目标,我们需要对各种技术进行深入的研究,包括RRAM、闪存、SRAM等的技术细节和操作原理等。实现这个目标需要一定的时间和努力,也需要各方面的专家紧作共同推进技术的进步发展。目前市场上也有一些相关的产品在研发过程中,希望在未来的市场竞争中占得先机并推动整个行业的发展进步。
至于使用DRAM进行内存内计算,这个领域也有一些初步的探索和研究。尽管DRAM作为一种传统的存储介质还需要解决许多技术难题才能真正实现计算与存储的结合,但我们对其未来的潜力充满信心。技术的不断进步将推动各种创新思路和方案的涌现,为行业的发展带来持续的动力。内存内计算是未来计算和存储技术的重要发展方向之一,我们需要持续不断地对其进行研发和改进,以满足日益增长的高性能计算和存储需求。我们也期待更多的创新思路和方案涌现,推动整个行业的发展进步,为未来的科技进步做出更大的贡献。随着我们对每种存储介质的专业技术和挑战的不断探索和研究,让我们共同期待这个领域的未来发展和突破吧!
