이전의 뉴로모픽 반도체는 실리콘 기반 CMOS 트랜지스터 기술만으로 구현되었다. 구현 소자 관점에서 1세대 뉴로모픽 방식이라고 할 수 있다. 1세대 뉴로모픽 반도체에서 시냅스는 기존의 CMOS 메모리 소자를 활용하여 시냅스의 가중치를 저장하였다가 읽어오는 방식으로 구현되었다. 차세대 뉴로모픽 소자로 구현되는 2세대 뉴로모픽 반도체의 한 예시로 멤리스터 소자를 활용하는 방식이 연구되고 있다. 멤리스터 소자는 인가되는 전압에 따라 저항이 변화하는 스위치 기능과 이를 저장하는 메모리 기능을 동시에 할 수 있기 때문에 많은 량의 데이터를 연산해야 하는 AI 컴퓨팅을 폰 노이만 구조 상에서 진행했을 경우 발생하는 병목현상 문제를 해결할 수 있어 AI 하드웨어에 적합하다. 멤리스터를 활용한 AI 하드웨어는 높은 집적도와 안정성, 고에너지 효율, 저전력 등의 장점으로 생물학적 시냅스의 특성을 하나의 소자에서 구현할 수 있는 새로운 소자로 떠오르고 있으나, 다양한 연구가 아직 시냅스의 일부 특성만을 모방하는 등 한계를 보인다. 멤리스터 소자가 현재 부딪힌 기술적 한계와 그를 해결하기 위한 연구에 대해 조사하였다.
기존 폰 노이만 구조 컴퓨팅 소자에 사용되어 왔던 CMOS(complementary metal-oxide semiconductor) 소자를 뉴런으로, 멤리스터를 시냅스로 한 하이브리드 구조로 AI 하드웨어를 만들어 STDP(spike timing dependent plasticity)를 구현한 연구도 있었다. CMOS 뉴로모픽 시스템에서 뉴턴의 네트워크 연결도 향상과 메모리 운용의 한계를 극복하기 위함이었다. Crossbar structure에서 멤리스터 시냅스가 각 crosspoint에서 CMOS 기반 뉴런을 연결해주어 연결성과 집적성을 갖출 수 있다. 하지만 이를 뛰어넘어 시냅스 어레이와 뉴런 모두를 멤리스터 기반으로 하는 연구도 활발히 진행중이다.
대부분의 멤리스터 소자의 스위치 특성은 필라멘트 형성에 기반하였다. 하지만 필라멘트가 형성되는 위치나 길이 등을 제어하는 기술이 개발되지 않아 미세 조절이 불가능하기 때문에 conductance output이 일관적이지 않은 문제도 존재한다. 이를 해결하기 위해 nanowire 등과 같은 1차원 구조를 활용하는 방법이 시도되고 있다. Lu 교수 연구진은 필라멘트 없이 연속적인 아날로그 스위치 특성을 형성할 수 있는 Ag-Si cosputtering 멤리스터 소자를 개발하였다. 하지만 현재 연구되고 있는 멤리스터 기반 시냅스에서 보이는 한계인 programming pulse와 synaptic weight change 사이의 관계가 선형적이지 않다는 특성은 해결되지 않았다. Lu 교수 연구진이 개발한 멤리스터 소자 또한 펄스가 반복됨에 따라 전류가 누적되어 증가하는 양상을 보인다. 또한 외부 입출력이 디지털인 경우 디지털 과 아날로그 간의 정보 변환을 위해 DAC(Digital-to-Analog Converter)와 ADC(Analog-toDigital Converter)가 필요한데 DAC와 ADC의 블록의 크기가 매우 크다는 문제도 있다.
멤리스터 특성 소자는 저항값을 긴 시간 유지하는 능력이 부족하여 단기 적응 효과 구현은 가능하지만, 장기 적응 효과 구현에는 어려움이 있다. 이를 해결하기 위해 NIMS의 Aono 연구진은 저항 변화 메모리에 spike를 짧은 시간 반복적으로 유지하면 전도도가 점진적으로 증가하여 최종적으로 높은 값을 유지한다는 것을 밝혀내 이를 이용해 오랜 시간 동안 기억을 유지할 수 있도록 하는 방법을 발견했다. 간헐적인 학습은 단기기억만 생성하지만 짧은 시간 동안 반복적인 학습은 장기기억을 생성하는 인간의 학습 및 기억과 유사하다.
멤리스터 소자는 2단자 crossbar array 구조로 구성하였을 때에 높은 집적도와 연결성뿐만 아니라 적은 비용과 간단한 제작 과정 덕에 주목을 많이 받고 있다. Michigan 대학교의 Lu 교수 연구진은 32×32 크로스바 구조를 갖는 저항 변화 멤리스터 array를 뉴로모픽 시스템의 시냅스에 적용하여 sparse coding을 구현하였다. Sparse coding은 사람이 이미지를 기억할 때 사용하는 방식으로, 고용량 메모리를 필요로 하는 이미지 픽셀 저장 대신 이미지를 블록들의 조합으로 분리하고 최소화된 블록들을 기억하는 방식이다. 이때 이 이미지 블록들의 아날로그 데이터 값을 저항변화 멤리스터의 다단계 저항 레벨을 이용해 기억하고, 이미지를 복원할 때는 이 이미지 블록을 조합하여 재구현한다. Sparse coding으로 이미지를 저장할 경우 높은 압축률을 얻을 수 있다. 연구진은 32×32 저항 변화 멤리스터 array의 1024개의 멤리스터 만으로 120 × 120 pixel의 이미지를 저장 및 재구현 하는데 성공했다.
하지만 2단자 crossbar array 구조에서는 sneak path 문제가 존재한다. Sneak path 문제란 Crossbar에서 원하지 않는 방향으로 전류가 흐르게 되는 것을 말하며, crossbar 구조에서 gating이 되지 않아 생기는 문제이다.
이를 해결하기 위해 source와 drain 사이에 channel을 추가하는 3단자 구조 또한 고려되고 있다. Gate 전극이 추가되어 보다 다양한 conductance 조정이 가능해지는 구조로, 2단자 구조보다 복잡하고 집적도 관점에서 불리하지만, 신호 전송 단자와 학습 단자가 분리되어 있어 동시에 신호 처리가 가능하다. 또한 다른 뉴런의 작용이 시냅스 강도를 변동시키는 Modulatory input-dependent plasticity와 같은 복잡한 Heterosynaptic plasticity의 구현은 2단자 구조에서는 구현하기 어렵지만, 3단자 구조에서는 모방이 가능하다. Sneak current 문제를 해결하기 위해 추가적인 selector가 필요가 없다는 것 또한 2단자 구조를 뛰어넘는 장점이다.
멤리스터 AI 하드웨어는 새로운 하드웨어로 주목받고 있으나, 아직 해결해야 하는 기술적 장벽이 존재한다. 여러 문제가 해결되어 실제로 시냅스와 같은 소자가 구현된다면 뉴로모픽 공학 전반에 의미가 크다. 집적도를 높이고 물리적 공간을 줄일 수 있으며, 시냅스 학습을 위한 회로 구현이 단순해진다. 따라서 단점을 극복하고 시냅스의 여러 특성을 최대한 구현하기 위한 수많은 시도가 있었다.
참고문헌
김현진. “인공신경망 구현의 하드웨어 동향.” 주간기술동향 1885호 (2019): 2-12.
문승언, et al. "차세대 뉴로모픽 하드웨어 기술 동향." (2018).
박종길. "뉴로모픽 소자의 현재와 미래." Vacuum magazine 4.3 (2017): 21-24.
오광일, 김성은, 배영환, 박경환, 권영수. (2020). 인공지능 뉴로모픽 반도체 기술 동향. [ETRI] 전자통신동향분석, 35(3), 76-84.
유우종, et al. "멤리스터 기반 뉴런-시냅스 소자 및 뉴로모픽 시스템." 정보과학회지 36.6 (2018): 71-80.
윤태식. "뉴로모픽 시스템을 위한 시냅스 소자." Electrical & Electronic Materials 30.8 (2017): 14-24.
정상돈, 김용희, and 백남섭. "시냅스 모방소자 연구개발 동향." 전자통신동향분석 29.2 (2014): 97-105.
Choi, Sanghyeon, Seonggil Ham, and Gunuk Wang. "Memristor synapses for neuromorphic computing." Memristors-Circuits and Applications of Memristor Devices. IntechOpen, 2019.
Choi, Shinhyun, et al. "Experimental demonstration of feature extraction and dimensionality reduction using memristor networks." Nano letters 17.5 (2017): 3113-3118.
Jo, Sung Hyun, et al. "Nanoscale memristor device as synapse in neuromorphic systems." Nano letters 10.4 (2010): 1297-1301.
Sheridan, Patrick M., et al. "Sparse coding with memristor networks." Nature nanotechnology 12.8 (2017): 784.
Xia, Qiangfei, and J. Joshua Yang. "Memristive crossbar arrays for brain-inspired computing." Nature materials 18.4 (2019): 309-323.
Zidan, Mohammed Affan, et al. "Memristor-based memory: The sneak paths problem and solutions." Microelectronics Journal 44.2 (2013): 176-183.
'멤리스터와 AI 하드웨어' 카테고리의 다른 글
| 멤리스터와 시냅스 모방 소자 (0) | 2021.01.21 |
|---|---|
| 멤리스터(Memristor) (1) | 2021.01.20 |
| Brain-inspired computing (0) | 2021.01.20 |
| 인공신경망의 동작 원리 (0) | 2021.01.20 |
| 인공지능과 기계학습 (0) | 2021.01.20 |
