인간의 뇌가 학습하고 연산하는 과정을 모방하여 컴퓨터의 연산 구조 형태를 인공 신경망 형태로 만들고자 하는 노력은 이전부터 활발히 있었으나, 연산하는 과정만 영감을 얻었을 뿐 폰 노이만 구조의 컴퓨터에서 연산이 이루어져 왔다. 폰 노이만 구조란 연산/논리 소자와 메모리 소자가 분리된 형태로, 현재까지 이를 기반으로 디지털 시스템이 매우 성공적으로 활용되어 왔다. 하지만 더욱 복잡해지는 정보 처리 환경과 고밀도의 정보저장을 요구하는 디지털 환경에서 폰 노이만 구조는 논리 소자와 메모리 소자 사이의 신호 전달의 지연 등에 의한 성능 개선의 한계와 높은 에너지 소모의 문제를 안고 있다. 이를 해결하기 위해 논리/연산 기능과 메모리 기능을 모두 포함하여 에너지 효율 및 성능 저하의 문제를 해결하는 논리 메모리(logic-in-memory) 시스템 연구가 진행되고 있다.
이와 더불어 생물학적 뇌의 구조와 기능적 특성을 전자 회로에 구현하는 뉴로모픽 공학이라는 개념이 제안되었다. 인간의 뇌는 작은 부피와 낮은 전력을 소비하며 다양한 연산, 논리, 학습, 기억 능력을 나타내어 폰 노이만 컴퓨팅 시스템보다 우수한 에너지 효율을 나타낸다. 특히 복잡한 환경에서의 정보처리 능력은 인간의 두뇌가 더 우수한 성능을 나타내고 있어 뉴로모픽 시스템은 폰 노이만 시스템에 비해 복잡한 정보처리 환경에서 우수한 성능을 보일 것으로 예상된다. 인간의 뇌는 높은 연결성을 이용한 병렬처리 능력과 더불어 연산과 기억 기능을 시냅스를 통하여 동시에 수행하는 능력을 갖추고 있다. 외부 감각기관으로부터 인지된 정보는 각각의 뉴런을 통해 낮은 전압의 전기적 신호로 고밀도의 시냅스를 통하여 다음 뉴런으로 전달되면서 병렬 처리가 가능하게 된다. 정보를 처리하는 코어인 뉴런 사이에 연결된 시냅스를 통해 뉴런 간 스파이크 신호(활동 전위)를 주고받아 정보를 처리하고 각각의 시냅스의 강도는 뉴런에 전달하고자 하는 정보에 따라 결정된다. 뉴런으로부터 생성된 신호가 시냅스를 통하여 처리되는 과정에서 시냅스의 연결성이 변하는 것은 정보 처리 과정에서 학습 및 기억 과정이 시냅스를 통해 동시에 일어남을 의미한다. 뉴턴-시냅스 구조를 모사하는 뉴로모픽 시스템은 병렬처리와 더불어, 연산/논리 기능과 학습/기억 기능이 통합된 구성으로 폰 노이만 시스템의 단점을 극복할 수 있는 대안으로 기대되고 있다.
시냅스는 뉴런 간 신호전달 강도를 조절하는 방식으로 기억을 담당한다. 일반적인 디지털 시스템이 2개의 레벨(0과 1)을 갖는 것과 달리 시냅스의 신호전달 강도는 100개 이상의 다단계 레벨을 갖는다. 이러한 신호전달 강도의 가소성은 이전-뉴런에서 분비되는 소포의 개수를 조절하는 방식으로 이루어지며, 이전-뉴런의 spike와 다음-뉴런의 spike의 발생순서와 시간차(STDP: spike-timing-dependent plasticity)에 의해 강도가 조절된다. 이전-뉴런의 spike가 다음-뉴런의 spike보다 일찍 발생하면 신호전달 강도가 강해지며, 반대의 경우 약해진다. 또 이전-뉴런의 spike와 다음-뉴런의 spike이 발생한 시간의 차이가 작을수록 신호전달강도의 변화가 커지며, 반대의 경우 작아진다. 이러한 시냅스 가소성은 일반적으로 수초에서 수분의 짧은 시간 동안 유지된 후 사라져 단기기억을 형성한다. 반면 이전-뉴런과 다음-뉴런 사이에 자극이 반복적으로 주어지면 새로운 시냅스가 생성되며 흥분전도가 훨씬 원활히 일어나고 장기기억을 형성한다. 이와 같은 시냅스의 동작을 멤리스터로 모방하기 위해서는 신호전달 강도가 여러 단계이거나 연속적인 것, STDP 그리고 단기 및 장기기억을 구현하는 것이 핵심이다.
시냅스의 특성을 모방한 소자는 비휘발성 소자이면서 여러 단계의 시냅스 강도를 표현할 수 있어야 한다. 또한 신호 처리/학습/기억 기능을 동시에 담당할 수 있어야 한다. 이에 멤리스터 속성을 띠는 소자들이 활발히 연구되고 있다. 멤리스터는 저항값이 일정하지 않고 양단에 인가되는 전압에 따라 저항값이 변화하여 스위치 기능을 할 뿐만 아니라 이를 저장하는 메모리 역할도 할 수 있다. 이러한 특성을 이용하여 시냅스의 학습을 구현한다. 멤리스터는 2단자 crossbar 구조로 많이 쓰이는데, 멤리스터가 crosspoint에 위치하여 pre-neuron layer와 post-neuron layer를 각각 다른 synaptic weight로 이어준다. 이러한 crossbar network는 병렬적으로 정보 처리가 가능해 생물학적 시스템과 비슷한 방법으로 작동이 가능하다.
대표적으로 멤리스터 특성을 보이는 소자에는 ReRAM(Resistive RAM), Phase Change RAM(PCRAM), FeRAM(Ferrolectric RAM) 등이 있다. ReRAM은 아날로그 저항 변화 특성을 이용한 메모리 형태고, PCRAM은 물질의 상변화에 따른 저항 변화를 이용한 비휘발성 메모리 소자이며, FeRAM은 강유전막의 계면 상태의 변화에 따라 생기는 저항 변화를 이용한다. 상변화 멤리스터는 결정질 상에서는 낮은 저항을 띄고 비정질 상에서는 높은 저항을 보인다. 상변화 물질에 긴 시간 동안 낮은 전류를 흘려주면 결정화가 일어나며 저항이 낮아지고, 반대로 짧은 시간 동안 높은 전류를 흘려주면 온도가 올라 결정화를 잃으며 비정질 상으로 돌아가 저항이 높아진다. 이 비율을 적절하게 조절하는 방식으로 멤리스터의 저항 조절을 구현한다. 저항 변화 멤리스터는 oxygen vacancy를 이용하여 전도성 필라멘트를 형성하는 경우와 전기적 스트레스에 의해 산화막 내부로 전극 금속 물질이 침투하여 필라멘트를 형성하는 경우가 있다. 이렇게 형성된 채널은 전압의 크기 또는 방향에 따라 필라멘트의 생성과 파괴를 반복하며 저항이 변화하게 된다.
Michigan 대학교의 Lu 교수 연구진은 저항변화 멤리스터를 이용하여 시냅스 모방 소자를 구현하였다. 멤리스터 소자를 만들 때 Ag와 Si의 비율을 점차 다르게 조절하여 sputtering 하여 Ag-rich region은 높은 전기전도도를, Ag-poor region은 낮은 전기전도도를 갖게 했다. 위에서 다른 멤리스터 소자들은 필라멘트를 형성하여 스위치 특성을 가졌는데, 그러한 필라멘트는 localizing conducting path를 만들어 저항이 불연속적으로 전환되게 만든다. 반면 Ag와 Si의 cosputtering을 이용하면 그러한 필라멘트 없이 연속적인 아날로그 스위치 특성을 형성할 수 있다. 즉 멤리스터의 저항이 다단계로 변화하여 시냅스의 다단계 weight 변화를 표현할 수 있다.
이 멤리스터 소자의 I-V 그래프를 측정해보면 멤리스터 회로 모델 수식과 잘 맞는 것을 볼 수 있다. wt 는 Ag-rich region과 Ag-poor region의 경계면의 위치로, 양의 바이어스가 주어지면 Ag 이온이 Ag-rich region에서 Ag-poor region으로 이동하면서 w가 늘어난다. RON 은 highest conductance state에서의 저항, ROFF 는 lowest conductance state에서의 저항이다. 이 모델에서 wt 가 flux-linkage φt=vtdt 의 선형함수라고 가정하면, it=G(φt)(v(t) 로, G(φt) 는 memductance, 이 수식이 적용 가능한 모델을 flux-controlled memristor라고 한다. 즉 이러한 모델링으로 Ag-Si 멤리스터의 특성을 설명할 수 있게 된 것이다.
이 멤리스터는 threshold voltage VT=2.2V를 가지며, 그보다 작은 크기의 바이어스는 Ag 이온을 움직이기에 충분하지 않기에 멤리스터 저항에 거의 영향을 주지 않는다. Threshold effect가 있다는 것은 최초에 정의된 멤리스터의 정의에 부합하지는 않지만, 오히려 Threshold effect 덕에 응용 범위는 더 넓어졌다.
이 모델은 또한 인가 전압의 duration과 sequence를 조절하여 device conductance를 조절하는 특성을 가진다. Positive potentiating voltage pulses를 반복해서 주입하면 서서히 conductance가 증가하고, negative depressing voltage pulse는 memristor conductance가 서서히 감소하게 만든다. 같은 세기의 voltage pulse를 각기 다른 duration과 방향으로 적용했을 때에는 더 오랜 시간 pulse를 유지했을 때 conductance change가 더 컸다. 이러한 결과는 멤리스터 device가 STDP 특성을 가지는 시냅스 역할을 수행할 수 있음을 보여준다.
이외에도 다양한 소재의 멤리스터 소자의 시냅스 모방 특성이 연구되고 있다. 주로 소자가 저장된 전하량에 따라 저항상태가 아날로그 형태로 변하는지, 인가된 전압의 부호와 횟수에 따라 저항상태가 연속적으로 변화하는지, 단기 기억과 장기 기억 특성을 나타낼 수 있는지를 연구하고, 위 소자 외에도 단일 상변화 멤리스터를 이용하거나 나노 입자, 산화물 박막 등을 이용한 연구도 진행됐다. 2단자 시냅스 소자뿐만 아니라 3단자 구조를 갖는 시냅스 트랜지스터 연구도 진행되고 있다. 크로스바 형태의 2단자 시냅스 어레이 구조는 시냅스의 집적도를 높일 수는 있지만, Sneak-path를 통한 누설 전류의 문제가 생길 수 있는 단점이 존재한다. 이 때문에 스위치를 추가한 3단자 형태로 만들어 층을 쌓기도 하는데 스위치를 추가함으로써 소자의 크기가 커지는 단점이 있다.
참고문헌
박종길. "뉴로모픽 소자의 현재와 미래." Vacuum magazine 4.3 (2017): 21-24.
유우종, et al. "멤리스터 기반 뉴런-시냅스 소자 및 뉴로모픽 시스템." 정보과학회지 36.6 (2018): 71-80.
윤태식. "뉴로모픽 시스템을 위한 시냅스 소자." Electrical & Electronic Materials 30.8 (2017): 14-24.
Jo, Sung Hyun, et al. "Nanoscale memristor device as synapse in neuromorphic systems." Nano letters 10.4 (2010): 1297-1301.
'멤리스터와 AI 하드웨어' 카테고리의 다른 글
| 멤리스터 AI 하드웨어의 구조, 장점, 한계와 해결 (0) | 2021.01.21 |
|---|---|
| 멤리스터(Memristor) (1) | 2021.01.20 |
| Brain-inspired computing (0) | 2021.01.20 |
| 인공신경망의 동작 원리 (0) | 2021.01.20 |
| 인공지능과 기계학습 (0) | 2021.01.20 |
