올해 요시노 아키라 교수의 수상으로 일본이 과학 분야 24번째 노벨상 수상자를 배출했다. 이는 기초과학에 꾸준히 투자한 결과이다. 이와 관련해 일전에 일본 경제산업성과 문부과학성이 펴낸 보고서에서는 ‘인공지능(AI), 빅데이터 등 4차 산업혁명의 승자가 되기 위해 꼭 필요한 것은 수학’이라고 강조했다. 이렇듯 4차 산업혁명 시대를 맞아 AI의 발전과 함께 수학적 사고 능력이 중요시되고 있다.
이학과 공학 분야의 전공자 입장에서 보면 수학과와 컴퓨터공학과는 일견 연관성이 많지 않아 보인다. 수학은 순수과학이고, 컴퓨터공학은 변화가 심한 최신 첨단 공학이다. 서울과 부산의 거리만큼 멀어 보인다. 대학 시절 필자는 두 학과의 수업을 같이 수강했었는데, 두 학과 강의실에서 겹쳐 만나는 학생은 거의 없었다. 하지만 최근 공학 해석과 설계 과제의 복잡도가 ‘테라’(10의 12승, 즉 1조) 단위로 높아지면서 공학에서의 수학 계산을 컴퓨터 도움 없이는 풀 수 없는 시대가 됐다. 공학분야의 수학 문제 해결에 컴퓨터 도움이 절실히 필요하게 된 것이다.
컴퓨터는 장치의 뇌 역할을 하는 중앙처리장치(CPU)와 주기억장치(DRAM)로 대표되는 반도체 하드웨어로 이뤄져 있다. 그런데 반도체를 설계하려면 회로 이론을 공부해야 하며, 이는 수학 미분방정식으로 표현된다. 이렇게 수학으로 방정식을 풀면서 물리적인 이해를 쌓고, 미래를 바라보는 통찰력도 얻게 된다. 이에 대학교 전자회로 수업 시간에 미분방정식 문제를 많이 푼다. 문제는 반도체 내의 트랜지스터를 포함한 회로의 개수가 조 단위를 넘어서고 있다는 점이다. 그러나 인간이 풀 수 있는 방정식은 기껏해야 10개 정도의 2차 미분방정식이 되므로 반도체 설계 검증을 위한 시뮬레이션은 모두 컴퓨터로 실행해야 한다. 이렇게 컴퓨터에 의존해 공학적 수학문제를 해석하는 방법을 컴퓨터 활용 공학(CAE)이라고 하고, 이때 컴퓨터 지원 설계(CAD) 프로그램을 사용한다. 컴퓨터가 사실상 미분방정식을 모두 풀어주는 것이다. 컴퓨터가 수학 문제를 풀어주고, 그 결과 설계와 수학은 이제 분리될 수 없는 것이다.
김정호 카이스트 석좌교수 전기전자공학