새로운 비지니스 모델을 찾는 메모리 산업

2022.05.13

The memory industy (5): Looking for a new biz model that can create new value (digitimes.com)

메모리 산업은 새로운 가차를 창출할 수있는 비지니스 모델을 찾고있다.

 

When the memory industry can no longer leverage Moore's Law to create new value,

it has to find new technologies to establish a new business model that can create new economic value.

메모리 산업이  새로운 가치를 창출하기 위해 더 이상 무어의 법칙을 활용할 수 없을 때,

메모리 산업은 새로운 경제적 가치를 창출할 수 있는 새로운 비즈니스 모델을 구축하기 위해

새로운 기술을 찾아야 합니다.

 

To have a good picture of how the memory industry could leverage new technologies to create new economic value, we must consider the fundamental function of memory.

메모리 산업이 새로운 기술을 활용하여 새로운 경제적 가치를 창출할 수 있는 방법에 대한 좋은 구상을 하려면,

우리는 메모리의 기본 기능을 고려해야 합니다.

 

According to the von Neumann architecture, the processor and memory are two independent core modules.

폰 노이만 아키텍처에 따르면 프로세서와 메모리는 두 개의 독립적인 코어 모듈입니다.

 

However, since the operating speeds of the processor and memory do not match, memories could be categorized into three types - SRAM cache, DRAM, and NAND flash SSD - based on their operating speeds.

그러나 프로세서와 메모리의 작동 속도가 일치하지 않기 때문에 메모리는 작동 속도에 따라

SRAM 캐시, DRAM, NAND 플래시 SSD의 세 가지 유형으로 분류될 수 있습니다.

 

During data processing, messages are repeatedly transmitted and converted between processors and NAND flash SSD. The present computing semiconductor technology sees most of the power needed for data processing used on this repeated message transmission and conversion, and real data processing only accounts for a small portion of power consumption. This is the biggest challenge for modern semiconductor design and manufacturing.

 

데이터 처리 중에 프로세서와 NAND 플래시 SSD 간에 메시지가 반복적으로 전송되고 변환됩니다.

현재의 컴퓨팅 반도체 기술은 이러한 반복되는 메시지 전송 및 변환에 사용되는 데이터에 필요한 대부분의 전력을

사용하고 있으며, 실제 데이터 처리할때 사용하는 전력은 적은 부분을 차지합니다.

이것은 현대 반도체 설계 및 제조의 가장 큰 과제입니다.

 

One solution that does not rely on scaling and can continue to increase economic value is to have the entire computing system gradually depart from the von Neumann architecture by starting with semiconductor components.

확장에 의존하지 않고 계속해서 경제적 가치를 증가시킬 수 있는 한 가지 솔루션은 전체 컴퓨팅 시스템이

반도체 구성 요소부터 시작하여 폰 노이만 아키텍처에서 점차적으로 벗어나도록 하는 것입니다.

 

Guided by this logic, the memory industry can explore three models to create new economic value:

emerging memories; memory-centric computing; and integration of application-oriented memory and logic IC.

이 논리에 따라 메모리 산업은 새로운 경제적 가치를 창출하기 위해 세 가지 모델을 탐색할 수 있습니다.

새로운 메모리,메모리 중심 컴퓨팅, 애플리케이션 지향 메모리와 로직 IC의 통합.

 

The path for developing emerging memories is clear.

Basically, emerging memories should have the same data read/write speed and durability

as DRAM, and the same large storage volume and persistent data storage capability as NAND flash.

새로운 메모리를 개발하는 길은 분명합니다.

기본적으로 새로운 메모리는 DRAM과 동일한 데이터 읽기/쓰기 속도와 내구성,

NAND 플래시와 동일한 대용량 저장 용량 및 영구 데이터 저장 기능을 가져야 합니다.

 

Emerging memories should have the advantages of both memory types and function as storage-class memory. Strictly speaking, memory is considered volatile.

새로운 메모리는 메모리 유형과 스토리지 클래스 메모리 기능 모두의 이점을 가져야 합니다.

엄밀히 말하면 메모리는 휘발성으로 간주됩니다.

 

SRAM and DRAM, for example, have fast operating speeds but can only store data temporarily.

Storage, on the other hand, is considered permanent, such as NAND flash. Storage-class memory refers to new components that can serve as both volatile memory and permanent storage.

예를 들어 SRAM과 DRAM은 작동 속도가 빠르지만 데이터를 일시적으로만 저장할 수 있습니다.

반면에 스토리지는 NAND 플래시와 같이 영구적인 것으로 간주됩니다.

스토리지 클래스 메모리는 휘발성 메모리와 영구 스토리지 모두의 역할을 할 수 있는 새로운 구성 요소를 나타냅니다.

 

MRAM and FeRAM (or FeFET) are potential candidates for this kind of emerging memories, and they can significantly reduce power consumption by eliminating the repeated data transmission between DRAM and NAND flash.

There is great growth potential for emerging memory development, with SOT MRAM and FeFET possibly being upgraded with 3D structure.

 

MRAM 및 FeRAM(또는 FeFET)은 이러한 종류의 새로운 메모리의 잠재적 후보이며

그들은 DRAM과 NAND 플래시 간의 반복적인 데이터 전송을 배제하는 것으로 전력 소비를 크게 줄일 수 있습니다.

SOT MRAM 및 FeFET같이  3D 구조로 업그레이드될 가능성이 있는 새로운 메모리 개발에 대한

큰 성장 잠재력이 있습니다.

 

There are short-term, mid-term, and long-term targets for memory-centric computing development.

The first is near-memory computing, which reduces transmission latency and power consumption by moving the processor closer to DRAM.

메모리 중심 컴퓨팅 개발에는 단기, 중기 및 장기 목표가 있습니다.

첫 번째는 프로세서를 DRAM에 더 가깝게 이동시켜 전송 대기 시간과 전력 소비를 줄이는 '근접 메모리' 컴퓨팅입니다.

 

The technology stacks up multiple layers of DRAM chips and combine them with processors to form a module using high-end packaging, and it is already being used in the industry. HPC development is now moving toward this direction.

 

이 기술은 DRAM 칩을 여러 겹 쌓고 프로세서와 결합하여 고급 패키징을 사용하여 모듈을 구성하며

이미 업계에서 사용되고 있습니다.(분석: HBM 디램을 말함)

HPC 개발은 이제 이 방향으로 나아가고 있습니다.

 

The next step might be switching all electrical connection between DRAM and processors to optical signal connection to enhance transmission speed and lower power consumption.

다음 단계는 DRAM과 프로세서 간의 모든 전기 연결을 광신호 연결로 전환하여

전송 속도를 높이고 전력 소비를 낮추는 것입니다.

 

The mid-term target is in-memory computing, which has been a hot topic often discussed

in semiconductor industry meetings in recent years.

The method is to have emerging memories simultaneously perform functions of both processors and memories.

This computing structure has essentially departed from the von Neumann architecture and no longer treats processors and memories as separate entities, and therefore it can eliminate latency and power consumption caused by repeated data transmission between processors and memories.

 

중기 목표는 인메모리 컴퓨팅으로 최근 반도체 업계 회의에서 자주 논의되는 화두다.

방법은 신흥 메모리가 프로세서와 메모리의 기능을 동시에 수행하도록 하는 것입니다.

이 컴퓨팅 구조는 본질적으로 폰 노이만 아키텍처에서 벗어나 더 이상 프로세서와 메모리를 별도의 개체로 취급하지 않으므로, 프로세서와 메모리 간의 반복적인 데이터 전송으로 인한 대기 시간 및 전력 소비를 제거할 수 있습니다.

 

The long-term target is the neuromorphic chip, which is learning from natural progression and imitating how human brains work. By using memristor to imitate neurons and synapses in a human brain, the chip learns to establish and enhance connection and growth of synapses. Intel's Loihi I and Loihi II are examples of initial attempts toward this direction.

 

장기 목표는 자연적인 진행을 통해 학습하고 인간의 두뇌가 작동하는 방식을 모방하는 뉴로모픽 칩입니다.

멤리스터를 사용하여 인간 두뇌의 뉴런과 시냅스를 모방함으로써 이 칩은 시냅스의 연결과 성장을 확립하고 강화하는 방법을 학습합니다. Intel의 Loihi I 및 Loihi II는 이러한 방향을 향한 초기 시도의 예입니다.

 

Developing an application-oriented memory-logic IC integration is a model that can create new economic value, and it is a heterogenous integration already adopted in the industry.

애플리케이션 중심의 메모리-로직 IC 집적을 개발하는 것은 새로운 경제적 가치를 창출할 수 있는 모델이며

이미 업계에서 채택하고 있는 이기종간 융합이다.

 

Integrating DRAM, ISP (image signal processor), filter, and micro lens in a CIS (CMOS image sensor)

using advanced packaging technology is an example of near-computing application.

Integrating DRAM and AI chip using WoW (wafer-on-wafer) or CoW (chip-on-wafer) packaging technologies,

such as Graphcore's IPU-2 that recently entered volume production, is another example.

 

첨단 패키징 기술을 사용하여 CIS(CMOS 이미지 센서)에 DRAM, ISP(이미지 신호 프로세서), 필터 및 마이크로 렌즈를 통합하는 것은 근접 컴퓨팅 애플리케이션의 한 예입니다.

최근 양산에 들어간 그래프코어의 IPU-2와 같이 WoW(wafer-on-wafer) 또는 CoW(chip-on-wafer) 패키징 기술을

사용하여 DRAM과 AI 칩을 통합하는 것도 또 다른 예입니다.

 

Although this model has a looser development direction, it is expected to be a popular method for integrating processors and memories for automotive semiconductor and AIoT applications. The adoption of this model is expected to grow rapidly.

이 모델은 개발 방향이 느슨하지만 자동차 반도체 및 AIoT 애플리케이션용 프로세서와 메모리를 통합하는데

널리 사용될 것으로 예상됩니다. 이 모델의 채택은 빠르게 증가할 것으로 예상됩니다.

 

This application method is special in that memories used do not need to have standardized specifications.

Its important implication is that DRAM will no longer be considered a commodity, but that it will serve as a product for specific application-oriented design instead. The characteristics of the market have also changed.

 

이 응용 방법은 사용되는 메모리가 표준화된 사양을 가질 필요가 없다는 점에서 특별합니다.

중요한 의미는 DRAM이 더 이상 상품으로 간주되지 않고 대신 특정 응용 프로그램 지향 설계를 위한 제품으로

사용될 것이라는 것입니다. 시장의 특성 역시 달라졌다.