Continuous Learning_Startup & Investment – Telegram
Continuous Learning_Startup & Investment
2.4K subscribers
513 photos
5 videos
16 files
2.72K links
We journey together through the captivating realms of entrepreneurship, investment, life, and technology. This is my chronicle of exploration, where I capture and share the lessons that shape our world. Join us and let's never stop learning!
Download Telegram
삼성전자가 마이크론이나 하이닉스와 차별화될 수 있는 포인트는 여전히 많이 남아 있다. 가장 큰 장점은 파운드리와 메모리를 동시에 할 수 있다는 것이고, 엔드 단에서 모바일이든, 랩탑이든, 가전이든, 전장이든, 어플리케이션 다변화에 대해 다양한 소비자 요구 조건을 테스트할 수 있는 플랫폼 자체가 많다는 것이다. 예를 들어 삼성전자가 계속 모바일을 살리고, 애플을 뛰어넘기 위해서는 애플이 상대적으로 약한 면모를 보이고 있는 edge AI가 가능한 모바일 기기를 세상에 가장 먼저 데뷔시키고 시장을 이끌어 가야 한다. 예를 들어 삼성이 조만간 출시할 갤럭시 S24 같은 경우, 안드로이드폰 최초로 클라우드 도움 없이, 모바일 기기 자체적인 AI 기능을 돌린다고 하는데, 결국 이는 모바일 기기의 근본적인 한계, 예를 들어 폼팩터와 배터리 용량의 한계, 로 인해 아주 고용량, 고속 계산은 하기 어려울 것이다. 대신 저용량, 경량 AI 계산이 가능한 영역을 찾아야 하고, 그것이 먹힐 수 있는 킬러 어플리케이션을 선보여야 한다. 그 애플리케이션에 특화된 HBM와 AP를 동시에 하나로 최적화해야 하고, 이를 기반으로 다양한 플랫폼에 대해서도 확장이 가능한 조합을 탐색해야 한다.
고객들이 스마트폰에서 AI를 쓰게 될 경우, 이들은 스마트폰에서 무거운 LLM을 학습시키거나, 고용량 게임의 Ray-tracing을 계산하거나 하는 용도로는 쓰지 않을 것이다. 오히려 실지간 외국어 동영상을 한국어로 더빙하거나 고해상도 동영상을 무리없이 stable diffusion 하여 합성하거나 보강하는 것, upscaling 하는 것, 비어있는 data를 reconstruction 하는 것 등을 원할 것이고, 이를 감당할 수 있는 경량화된 HBM과 AP가 필요하다. 내가 삼성의 신사업 책임자라면 게임엔진 구동업체들과 협업하여 최대한 무거운 계산은 삼성의 모바일 컴퓨팅 AI 기반 하드웨어에서 담당하는 식으로 넘기고, 구동은 가볍게 만드는 방식을 구현할 수 있는 방향으로 협업을 제안할 것이다. 이는 소비자들로 하여금 모바일에서도 고성능 ai가 백업이 되는 게임을 즐길 수 있게 해줄 것이다. 애플은 이게 안 된다. M2, M3 애플실리콘은 애초에 모바일 hbm이 들어올 여지를 남겨두지 않았기 때문이다. 또한 이는 엔비디아나 하이닉스가 온전히 감당하기 어려운 시장이다. 왜냐하면 현재의 GPU를 스마트폰에 넣기는 불가능하기 때문이다.
어쨌든 시장은 점점 복잡해질 것이고, AI가 default로 깔리는 가전제품과 IT 기기들은 이제 같은 AI를 지향하지 않게 될 것이다. 그렇지만 변하지 않는 점이라면 그것은 어쨌든 여전히 꿈과 이상 (AI 알고리즘)에 비해 현실 (컴퓨팅 하드웨어)은 늘 불만족스러울 것이라는 점이고, 그래서 컴퓨팅 하드웨어 잘 만드는 (가격, 전성비, 성능 모두) 업체들이 이 시장의 숨은 강자가 될 것이라는 점이다. 모두가 AI라는 서부 금광으로 향할 때, 이들 업체들은 컴퓨팅 하드웨어라는 청바지를 팔면서 큰 이익을 남길 수 있을 것이다. 삼성전자는 지금이라도 정신 차리고 자신의 단점과 강점을 냉철하게 정리하여 쳐낼 거 쳐내고, 도입할 것은 빨리 도입해야 한다. 매몰비용 아깝더라도 버릴 것은 버려야 하고, 갑의 의식에 푹 젖어 있던 임직원들 정신 교육 다시 시켜야 할 것이다. 여전히 AI를 소프트웨어로만 보던 옛 시절의 인물들은 정신교육을 정신 개조하다시피 다시 시켜야 할 것이고, 연산 과정에서 무엇이 시간을 잡아 먹고 있는지를 숫자 단위로 파악하지 못 하는 엔지니어들 역시 재교육 시켜야 할 것이다. 패키징에 더 많은 투자를 하고, 필요하다면 더 많은 업체를 인수해야 할 것이고, 메모리 파운드리 시대를 주도하겠다는 동탄 선언이라도 해야 할 것이다. 동시에 하이닉스는 HBM만 믿고 있지 말고, 여전히 밸런스가 하나도 맞고 있지 않은 파운드리를 조금씩 키워나가야 할 것이며, 패키징을 더 키울 생각을 해야 한다. 삼성과 하이닉스 모두, 뒤에서 마이크론이 쫒아오고, 더 뒤에서는 YMTC와 CXMT가 중국 내수 시장을 등에 엎고, 중국 정부의 전폭적인 자금 지원을 부스터 삼아 쫒아오고 있다는 것을 냉정하게 모니터링해야 한다.
메모리도 권불십년이고, AI 반도체도 권불십년일 것이다. 누가 승자가 되어도 이상하지 않은 시장이고, 10년 후에 지금 유명 회사들이 일본 반도체 회사 꼴이 나지 말라는 보장이 없다. 과거의 교훈도 있고, 최근에 직접 겪은 실패라는 데이터가 있음에도 불구하고 배우는 것이 없다면 패자가 되어도 이상하지 않을 것이다.
https://www.facebook.com/sjoonkwon/posts/pfbid0iPjE3A8w3FwkWnUySEkLqZmWfkxoEEwH7WC6UxNjpLxjNyKrx1VjmUxUL6fv15mjl
👍1
https://deepmind.google/discover/blog/alphageometry-an-olympiad-level-ai-system-for-geometry/?fbclid=IwAR0mAN26czgZADaAVyw3Vc6t58LnZCZmmPOE88cr7nKL7MjhJtxzHvW-sZM

In a paper published today in Nature, we introduce AlphaGeometry, an AI system that solves complex geometry problems at a level approaching a human Olympiad gold-medalist - a breakthrough in AI performance. In a benchmarking test of 30 Olympiad geometry problems, AlphaGeometry solved 25 within the standard Olympiad time limit. For comparison, the previous state-of-the-art system solved 10 of these geometry problems, and the average human gold medalist solved 25.9 problems.

AI systems often struggle with complex problems in geometry and mathematics due to a lack of reasoning skills and training data. AlphaGeometry’s system combines the predictive power of a neural language model with a rule-bound deduction engine, which work in tandem to find solutions. And by developing a method to generate a vast pool of synthetic training data - 100 million unique examples - we can train AlphaGeometry without any human demonstrations, sidestepping the data bottleneck.

AlphaGeometry adopts a neuro-symbolic approach
AlphaGeometry is a neuro-symbolic system made up of a neural language model and a symbolic deduction engine, which work together to find proofs for complex geometry theorems. Akin to the idea of “thinking, fast and slow”, one system provides fast, “intuitive” ideas, and the other, more deliberate, rational decision-making.
Because language models excel at identifying general patterns and relationships in data, they can quickly predict potentially useful constructs, but often lack the ability to reason rigorously or explain their decisions. Symbolic deduction engines, on the other hand, are based on formal logic and use clear rules to arrive at conclusions. They are rational and explainable, but they can be “slow” and inflexible - especially when dealing with large, complex problems on their own.

AlphaGeometry’s language model guides its symbolic deduction engine towards likely solutions to geometry problems. Olympiad geometry problems are based on diagrams that need new geometric constructs to be added before they can be solved, such as points, lines or circles. AlphaGeometry’s language model predicts which new constructs would be most useful to add, from an infinite number of possibilities. These clues help fill in the gaps and allow the symbolic engine to make further deductions about the diagram and close in on the solution.
AlphaGeometry solving a simple problem: Given the problem diagram and its theorem premises (left), AlphaGeometry (middle) first uses its symbolic engine to deduce new statements about the diagram until the solution is found or new statements are exhausted. If no solution is found, AlphaGeometry’s language model adds one potentially useful construct (blue), opening new paths of deduction for the symbolic engine. This loop continues until a solution is found (right). In this example, just one construct is required.

That huge data pool was filtered to exclude similar examples, resulting in a final training dataset of 100 million unique examples of varying difficulty, of which nine million featured added constructs. With so many examples of how these constructs led to proofs, AlphaGeometry’s language model is able to make good suggestions for new constructs when presented with Olympiad geometry problems.

Nature paper: Solving olympiad geometry without human demonstrations
Code: https://github.com/google-deepmind/alphageometry?fbclid=IwAR1JXMBul_dlw7vPNwYjEUoDzlu9fpyjoITXSj4L48rE-hvB5zKVGDnPQok
Continuous Learning_Startup & Investment
삼성전자가 마이크론이나 하이닉스와 차별화될 수 있는 포인트는 여전히 많이 남아 있다. 가장 큰 장점은 파운드리와 메모리를 동시에 할 수 있다는 것이고, 엔드 단에서 모바일이든, 랩탑이든, 가전이든, 전장이든, 어플리케이션 다변화에 대해 다양한 소비자 요구 조건을 테스트할 수 있는 플랫폼 자체가 많다는 것이다. 예를 들어 삼성전자가 계속 모바일을 살리고, 애플을 뛰어넘기 위해서는 애플이 상대적으로 약한 면모를 보이고 있는 edge AI가 가능한 모바일 기기를…
어젯밤에 쓴 반도체 관련 글이 너무 과도한 관심을 받고 있는 것 같은데, 한편으로는 삼성, 하닉, 마이크론, 엔비디아 주주들이 우리나라에 정말 많구나라는 생각이 새삼 들기도 한다. 이러나저러나 해도 결국 외국을 상대로 돈을 가장 많이 벌어오는 산업은 반도체고, 그 앞에서는 기업들이 살아남기 위한 필사의 경쟁을 벌이고 있으니 사람들의 관심은 쏠릴 수밖에 없을 것 같다. 사실 내가 가진 별 것 아닌 지식이나 관점을 생각하면, 그와는 비교조차 되지 않을 정도의 통찰을 가진 전문가들이 우리나라에도 수두룩한데, 이런 분들의 인사이트가 정책에서든, 경영에서든, 전략에서든 충분히 반영되지 못하는 것을 보며 안타깝다는 생각뿐이다.
반도체 산업은 다른 첨단 산업과는 달리 기술 정보에만 해박한 것으로는 충분치 않고, 전략적 마인드에서의 접근이 점점 더 중요해지는 산업이라고 생각한다. 이 전력적 마인드에는 좁게는 국내 정치와 산업 구도, 넓게는 글로벌 공급망 (SCM)과 키플레이어들의 대외정책에 대한 이해가 포함되어야 한다. 물론 후자가 너무 강조된 나머지 정보량이 거의 0으로 수렴하는 논의하나마나 한 정책이나 전략만 나오는 것도 산업의 방향을 잡는 것에 있어서는 별로 바람직하지 않다. 기술 정보가 충분히 뒷받침되어야 하고 그것이 전략에 세밀하게 반영되어야 한다.
많은 분들이 오해하시는 것은 전략이든 기술이든, 각 분야의 정보는 독립적이라고 생각하는 것이다. 물론 좁은 영역에서의 지극히 디테일한 기술 정보나 기초 과학을 근간으로 하는 새로운 탐색 결과 등에 대한 전문적 연구와 올해 말에 있을 미국 대선 결과에 대한 예측 및 정치적 함의 분석 사이에는 어마어마한 간극이 있는 것처럼 보일 수 있다. 그렇지만 사실 미국의 대선 결과에 따라 현재 진행 중인 미국의 첨단 산업 reshoring 정책이 어느 방향에 더 초점이 맞춰질 것인지, 리쇼어링하는 것이 초미세 공정이 가능한 파운드리에 초점이 맞춰지게 되는 것인지, 그래서 새로운 구조의 트랜지스터를 만들기 위해 어느 신소재를 주력으로 탐색할 것인지, 그 과정에서 그 연구에서 가장 앞서 있는 회사와 학교는 어디인지, 그 기관들은 어느 나라에 있는지, 그 나라가 미국과 충분한 신뢰 관계로 공동 전략을 수립할 수 있는지, fluctuation이 찾아왔을 때 공동 대응할 수 있는지 등에 대한 고민을 생각해 보면, 결국 그 간극은 다시 각 영역의 전문적 고민과 연구들로 촘촘하게 채워질 수밖에 없다.
반도체 산업의 기술-전략 융합에 대한 관점은 이 산업이 전/후방 산업에 미치는 영향을 생각하면 더욱 복잡해지면서 중요해진다. 멀리 갈 것 없이 현재 가장 핫한 GPU나 HBM 같은 컴퓨팅 하드웨어이자 정보 처리 매체로서의 반도체는 더욱 핫한 AI와 로봇, 나아가 AGI와 온갖 자율 모션 시스템의 발전 속도를 결정하는 요인이 될 것이다. 이는 반대로 생각해 보면 반도체의 기술 발전 방향과 정책, 그리고 전략 수립에 있어 가장 큰 혹은 가장 빠른 영향력을 끼칠 수 있는 세계적으로 중요한 이슈와 산업이 무엇인지를 철저하게 고민해야 한다는 것을 의미한다. AI에 가려져 있지만, 자율주행차, 양자컴퓨터, 첨단바이오와 신약 개발, 데이터센터와 통신, 우주항공, 에너지 개발 등에 이르는 모든 주요 산업에는 각 산업의 고유한 도메인 특징에 맞게 적확한 목적에서 개발되고 공급되어야 하는 반도체들이 존재한다. 이들 산업은 기존의 제조업 1.0에서 맞춤형 반도체가 가미된 후 제조업 2.0으로 뛰어오를 수 있다는 것을 생각해야 한다. 따라서 각 산업에 최적화된 파운드리를 누가 얼마나 최적화하여 SCM 대응 잘하면서 운용할 수 있는지가 중요할 것이다.

사람들의 삶에 직접적으로 영향을 미칠 이러한 후방 산업들뿐만 아니라, 사실 전방 산업에 대해서도 반도체 기술과 전략의 융합 관점에 의거한 접근은 매우 중요해진다. 특히 한국은 2045년까지 경기 남부권에 10개 이상의 메가 팹을 건설하면서 이른바 '메가팹 클러스터'를 이룩하는 것을 강력한 정책으로 추진할 것임을 밝혔다. 그러나 이제는 반도체 팹의 증설이 클린룸만 커다랗게 짓는다고, 그 안에 고가의 공정 장비를 잔뜩 가져다 놓는다고 저절로 해결되는 것은 아니다. 충분한 양의 깨끗한 물과 전력이 안정적으로 공급되어야 하는데, 이는 1차적으로는 그 지역 사람들, 그리고 팹에서 일할 근로자와 그 가족들의 삶과도 직결되는 것이다. 특히 전력 공급은 앞으로의 첨단 팹이 더더욱 고전력 소모 산업이 될 것이라는 점을 감안한다면, 그리고 RE100 류의 탄소중립 강제이행 조치가 10년 이내로 글로벌 단위에서 본격화되기 시작한다면, 핵심적 이슈가 될 것이다. 느슨한 taxonomy로 인해 당분간은 원자력 발전으로 상당 부분 전력 공급을 감당할 수 있을 것이다. 그러나 상황은 언제든 바뀔 수 있으므로, 원자력으로 시간을 버는 동안 더욱 집중적인 투자로 신재생에너지 발전단지와 그에 비례하는 규모의 ESS 단지를 갖추면서 간헐성 한계를 보강하고 공급 안정성을 확보하는 대규모 산업용 전력 공급 계획을 동시에 비슷한 비중으로 추진해야 할 것이다.

반도체 산업에 전방 산업의 중요성은 비단 1차적인 에너지, 용수 확보에만 그치는 것이 아니다. 소재와 공정 장비, 부품의 안정적인 공급 확보가 중요하고, 이는 기존의 SCM 논리만으로는 커버하기 어려워지는 것을 생각해야 한다. 왜냐하면 더 이상 글로벌 반도체 산업은 경제 논리만으로 커버되는 산업이 아니게 되었기 때문이다. 그래서 이제는 SCM도 이제 그에 맞춰 SCM 2.0으로 업그레이드되어야 하며, 이 업그레이드에는 '경제 안보, 기술 안보'라는 비교적 낯선 개념이 제대로 정의되고 추가되어야 한다. 이에 대한 전문가들, 예를 들어 미국/일본 전문가들은 물론, 중국 전문가, 동남아 전문가, 정책 전문가, 외교안보에서 잔뼈가 굵은 분, 해외 싱크탱크들과의 네트워크 자산을 가져올 수 있는 분들이 참여하기 시작해야 함을 의미한다. 그래서 정책적 근거와 가능성 있는 시나리오의 근거가 될 수 있는 기초 자료들을 발굴하고 확보할 수 있어야 한다. 필요하다면 한국은 이를 감당할 수 있는 새로운 싱크탱크를 만들고 아웃리치에 투자를 아끼지 말아야 한다.

그렇지만 역시 가장 중요한 전방 산업이라면 그다음 세대의 기술적 솔루션을 만들어야 할 기초과학 R&D다. 다들 쉬시하고 있지만, 반도체 업계의 기술적 고민은 특정 국가나 회사의 고민이 아닌, 세계 공통적 고민이다. 우선 가장 큰 기술적 고민은 무어의 법칙이 멈추고 난 이후, 더 이상 칩의 scaling-down에서 얻는 경제적 실익이 크지 않다는 것 외에도, 돈을 아무리 쏟아부어도 더 이상 물리적 크기를 줄일 수 없는 영역으로 접근하고 있다는 것이다. 앞의 것이 1-2m짜리 작은 파도라면, 뒤의 것은 멀리서부터 다가오고 있는 높이 20m짜리 쓰나미라고 볼 수 있다. 트랜지스터 회로의 물리적 크기를 줄이고 집적도를 높이는 것 자체는 high NA EUV든, BEUV든, XL이든, E-beam 이든 어쨌든 어떻게든 가능할 것이다. 아마 반치폭 (half-pitch) 기준, 실리콘 원자 5-8개 수준과 비슷한 크기까지도 줄일 수 있을 지도 모른다. 문제는 실제로 그렇게 되면 바깥에 배치된 원자의 비중과 안쪽에 있는 원자의 비중이 비슷해진다는 것이고, 이는 경계 효과 (boundary effect)가 본격적으로 나타나기 시작하면서, 더 이상 continuum approximation을 사용하지 못하게 될뿐더러, 그간 assumption 정도로 퉁쳐왔던 quantum confinement effect를 반영할 수밖에 없게 된다는 것이다. 그 효과를 반영한 새로운 트랜지스터 혹은 새로운 스위칭 소자를 설계하고 구현한다고 해도, '전자'를 쓰는 한, 근본적인 한계를 피할 방법은 없다. 전자는 charge를 가지고 이리저리 돌아다니는 파동-입자 이중성 양자 입자이기 때문이다. 그래서 열 발생은 물론, 더 많이 leakage 되는 것, on/off ratio가 충분치 않은 것, 신호가 혼재되는 것 등이 더 문제가 될 것이다. 칩 사이즈를 줄일 수 없고, 전자를 사용할 수 없게 된다면 그 다음 솔루션은 무엇인가? 솔직히 아무도 모른다. 이런저런 대안들이 제시되지만 양산 레벨에서 조금이라도 검증된 것은 하나도 없다. 고양이 목에 누가 방울을 달 것인지 서로 눈치를 보고 있을 뿐이다.
👍2
Continuous Learning_Startup & Investment
삼성전자가 마이크론이나 하이닉스와 차별화될 수 있는 포인트는 여전히 많이 남아 있다. 가장 큰 장점은 파운드리와 메모리를 동시에 할 수 있다는 것이고, 엔드 단에서 모바일이든, 랩탑이든, 가전이든, 전장이든, 어플리케이션 다변화에 대해 다양한 소비자 요구 조건을 테스트할 수 있는 플랫폼 자체가 많다는 것이다. 예를 들어 삼성전자가 계속 모바일을 살리고, 애플을 뛰어넘기 위해서는 애플이 상대적으로 약한 면모를 보이고 있는 edge AI가 가능한 모바일 기기를…
이뿐만이 아니다. 앞서 언급한 대로 컴퓨팅 하드웨어의 성능에 대한 근본적인 벽이 존재하는 것에 더해, 데이터 저장도 현실적인 문제가 될 것이다. 이는 데이터를 저장할 수 있는 매체의 생산은 선형으로 증가하는 양상임에 반해, 생산되는 데이터 증가 경향은 지수함수를 따르고 있기 때문인데, 지금은 당연하다는 듯 개인들도 몇 TB짜리 클라우드들을 비교적 저렴한 가격에 사용하고 있지만, 이제는 클라우드와 대용량 서버 업체들도 이를 감당하지 못하는 순간이 올 것이다. 사용료가 대폭 증가할 것이고, 허용되는 용량은 대폭 낮아질 것이다. 설사 낸드나 SSD를 엄청 저렴하게 양산하여 용량을 확보한다고 해도, 너무 많은 데이터들은 관리와 유지보수 비용이 급상승하게 된다. 냉각과 수명 단축에 의한 비용도 매우 클 것이다. 이러면 loss 되는 데이터가 생기기 시작하고, 데이터 보안 이슈가 더 현실적인 문제로 변하기 시작한다. 이에 대해 데이터 품질 관리, 분류, 차별화된 접근 등의 솔루션이 제시되지만 이러한 솔루션은 미봉책일 뿐이다. 근본적으로 사람들은 필요 이상으로 너무 많은 데이터들을 만들고 있고, 이를 너무 많이 오래 보관하고 있다.

기술적 문제는 또 있다. GPT 류의 생성형 AI든, 엣지 AI든, 컴퓨팅 하드웨어의 성능 강화에 대한 요구는 전력 사용의 급상승으로 연결된다. 지금도 반도체 팹 하나가 사용하는 전력은 GW 단위를 넘나드는데, 팹이 아니라, 이제 몇 년 후 등장할 것으로 보이는 GPT 5.0 훈련에 원전 1기 이상의 전력이 소모될 것임을 생각해 보자. 이는 보통 심각한 문제가 아니다. 왜냐하면 전력을 사용해야 하는 측은 컴퓨팅만 있는 것이 아니기 때문이다. 그렇지만 에너지 공급 트렌드 역시 1차 함수는 아니더라도, 속도는 정해져 있는 함수임에 반해 (특히 원전 신규 건설에는 최소 10년이 걸린다.), 컴퓨팅과 데이터 저장 및 관리에 소모되는 전력은 지수함수에 가깝게 늘어날 것이라는 점이 문제다. 전력 공급이 이를 충분히 감당하지 못하면 데이터 생산이든, 처리든, 저장이든, downgrade를 감내할 수밖에 없는 상황이 온다. 정해진 에너지 파이를 놓고 사회적으로 갈등이 본격화되는 시대가 올 것이다.

이러한 근본적인 반도체 산업과 직결되는 기술적 문제들은 특정 국가나 회사, 기관만이 감내하고 마주치는 문제가 아니다. 그냥 인류 공통적으로 당면한 문제다. 지금까지 진행해 온대로 정보처리 속도의 급상승과 비용의 급감으로 한껏 끌어올린 인류의 문명 발전 페이스를 사상 최초로 의도적으로 낮춰야 하는 시점을 눈앞에 두고 있는 셈이다. 선진국 시민들은 다 같이 느리게 혹은 심지어 퇴화까지도 감내할 준비가 되어있는지 모르겠지만, 저개발국가, 중진국 이하 국가의 시민들은 이 열매를 채 맛보지도 못 한채 갑자기 느려진 페이스를 선진국들에 의해 강제받게 된다면 당연히 저항할 수밖에 없을 것이다. 이는 글로벌 문제로 화할 것이고, 각국의 이해관계에 따라 더더욱 치열한 소규모 다자간 클러스터 형성을 촉발할 것이다.

반도체 산업 관점에서 볼 때 전방의 영역에서 어찌 보면 가장 중요한 것은 그래서 돌고 돌아 기초과학 R&D다. 기술적 문제를 해결하기 위해서는 기술 개발에 앞서, 기술의 근간이 될 수 있는 기초과학부터 탐색해야 한다. 물론 과학적 탐구 없이 기술 솔루션으로 바로 진입한 케이스가 없는 것은 아니나, 이제는 그러한 우연적 솔루션이 출현하는 빈도는 높지 않다. 그래서 틈만 나면 강조하지만, 반도체 산업을 위시로, 대부분의 첨단 산업은 그 이전에 시차를 두고 기초과학에서의 혁신과 새로운 발견이 재현되는 과정이 짧게는 몇 년, 길게는 수십 년 쌓이면서 형성된 열매가 충분히 익었기 때문에 등장하게 된 것임을 기억해야 한다. 에너지, 공업용수, 자원만큼이나 중요한 것이, 결국 바로 이 '기초 지식 채굴'이다. 채굴이라고 굳이 표현한 것은, 지식이 꼭 자원에 해당한다는 것을 말하고 싶어서는 아니다. 그만큼 고되고 힘든 노력이 필요하고, 그렇게 파낸 원광도 그대로 쓸 수 없어서 가공하는 데에도 지난한 시간과 노력이 필요함을 다시금 표현하고 싶었기 때문이다.

반도체 산업은 그 자체로도, 후방 산업에 대해서도, 그리고 전방 산업과 지식 채굴의 관점에 있어서도 기술과 전략의 마인드가 제대로 융합되어 깊게 고민하고 조심스럽게 정책을 설계하며 생태계의 장기적 안정성과 발전 방향을 고민해야 하는 특수한 산업이다. 하필 한국은 이 산업에 국부 창출의 가장 큰 포션을 의지하고 있으며 (실제로는 한국 GDP 창출에서 가장 큰 포션을 차지하는 것은 건설업이라고 하지만, 건설업은 내생적 기여가 대부분이다. 반면 반도체 산업은 대부분의 기술 및 재화가 외국에서 돈을 벌어온다.), 앞으로도 그렇게 하겠다고 우리 사회와 정부가 방향을 천명하고 있는 것 같으니, 이왕 하겠다는 것 제대로 해야 한다. 산업의 연결고리를 다시 한번 더 들여다보면서 약한 고리를 파악하고 보강해야 할 것이며, 경제와 기술 안보 논리가 충분히 산업계에서도 감당 가능한 비용과 기술 디테일에 반영될 수 있도록 더 많은 논의를 거쳐야 한다. 한국의 산업적 우위, 기술적 우위, 지식의 선점 등에서 창출될 수 있는 레버리지가 있다면 그것을 외국 정부나 기업, 학교 등에 작동하게 만들 수 있어야 한다. 그렇게 하려면 상황에 맞게 협상의 마인드로 기브 앤 테이크에 대한 생각을 해야 하고, 특히 우리가 테이크해야 할 것을 테크트리 짜 가면서 고민을 해야 한다. 무엇보다도 결국 새로운 지식과 기술의 표준을 이끌고 가려면 더 많은 지식과 기술에 대한 채굴이 필요하고 이는 충분한 시간을 두면서 전문성을 강화하기 위한 인재양성 전략으로 통합될 수 있어야 한다.
반도체 산업의 최전선에서 가장 치열한 경쟁을 해야 하는 파티원은 대기업들만이 아니다. 이들이 탱커이자 전사로서 최전선에 서있겠지만, 파티원에는 힐러와 법사도 필요하다. 전선에서 버티고 우리 것을 지키고, 미지의 영역을 개척함에 있어 보다 전략적이면서 종합적인 관점에서의 테크마인드를 수면 위에 올려놓고 제대로 논해야 한다.

https://www.facebook.com/sjoonkwon/posts/pfbid02zTcn3JPfPT8oERd6KN4eM7aXEBpevvZgWsKZd2R35r2P4fn4MsyYXcxN1JxLamfgl
👍1
At the Y Combinator W24 batch kickoff today, Sam Altman suggested YC founders build with the mindset that GPT-5 and AGI will be achieved "relatively soon" and most GPT-4 limitations will get partially/entirely fixed in GPT-5, according to one YC founder/CEO Richard He.

What's your interpretation of the "relatively soon?"😂 (Mine: #GPT5 in 2024 and #AGI in 2025.)
Importance of network and information about crucial decision.

https://www.theinformation.com/articles/behind-openai-meltdown-valley-heavyweight-reid-hoffman-calmed-microsoft-nerves?utm_campaign=article_email&utm_content=article-12111&utm_medium=email&utm_source=sg&rc=ocojsj

Hoffman, who was on his way to the airport after attending a conference in Napa Valley, started making calls. Over the next 48 hours, he telephoned half a dozen of his closest contacts within OpenAI, including Chief Technology Officer Mira Murati. By Sunday night, he told Nadella that he believed Altman hadn’t done anything to merit his termination, and that OpenAI employees were still in the dark about why the board had lost trust in Altman.

Nadella took this feedback into account before working to reinstate Altman, according to the person. These efforts included helping Murati negotiate with the board. Later that weekend Nadella publicly threw his support behind Altman, even extending an offer to hire him.
Mark Zuckerberg in a Facebook Video just announced that @meta meta's compute infra will scale to 350k H100s. At the H100's current street price, that's about $10.5b . About the same as @nvidia 's entire annual revenue for 2020 which was $10.92b 🤯

Estimates for NVIDIA's total production of H100s vary, but a common guess is around 2m for 2023. If true, this would represent 1/6th of their total annual output.

I don't think the GPU shortage will end any time soon.

https://www.linkedin.com/posts/appenz_mark-zuckerberg-in-a-facebook-video-just-activity-7153868226274238464-keI4?utm_source=share&utm_medium=member_ios
Continuous Learning_Startup & Investment
이뿐만이 아니다. 앞서 언급한 대로 컴퓨팅 하드웨어의 성능에 대한 근본적인 벽이 존재하는 것에 더해, 데이터 저장도 현실적인 문제가 될 것이다. 이는 데이터를 저장할 수 있는 매체의 생산은 선형으로 증가하는 양상임에 반해, 생산되는 데이터 증가 경향은 지수함수를 따르고 있기 때문인데, 지금은 당연하다는 듯 개인들도 몇 TB짜리 클라우드들을 비교적 저렴한 가격에 사용하고 있지만, 이제는 클라우드와 대용량 서버 업체들도 이를 감당하지 못하는 순간이 올 것이다.…
반도체 관련 글을 쓸 때나 강연을 할 때, 나는 자주 결론 중 하나로 기초과학에 대한 관심과 투자, 인재 양성을 강조한다. 사실 아무리 강조해도 지나치지 않다고 생각하는 것은, 그만큼 기초과학 생태계의 지속 가능성이 현재로서는 매우 불투명하기 때문이다. 이제는 많은 사람들이 알고 있는 것처럼, 반도체는 어느 특정 학문의 전유물이 아니며, 앞으로도 더더욱 그렇게 될 것이다. 예를 들어 소자 설계는 전자공학, 알고리듬은 컴퓨터공학이나 과학, 신소재 개발은 재료공학이나 화학공학, 공정 시스템과 제어는 화학공학이나 기계공학 등, 공학 전분야에 걸쳐 반도체 산업은 엔진의 추력을 얻는다. 실제로 이러한 공학 전공을 한 학생들은 졸업 후 반도체 회사로 많이 취업하고 있기도 하다. 나만 해도 내가 졸업했던 서울대 화공과 석사 연구실은 한국에 반도체 화학공정의 개념을 처음으로 도입하신 이홍희 교수님 연구실이었는데, 학교로 가신 동문들, 전문직으로 진로를 바꾼 동문들을 제외하면 거의 대부분은 반도체 관련 회사로 가셨다.
이렇게 반도체 산업에서 공학의 거의 전 분야가 활용되니까 반도체 산업은 기초과학과는 별 상관 없어 보일 수도 있다. 그렇지만 그 공학이 뿌리를 두고 있는 영역은 다름 아닌 기초과학이다. 예를 들어 현대 반도체 산업의 가장 핵심 소자인 트랜지스터는 다름 아닌 고체물리학의 기본적인 원리가 없었다면 나올 수 없었을 것이다. 왜냐하면 실리콘이라는 절연체를 n-type, p-type 반도체로 만들기 위해서는 이온 주입 전후로 바뀌는 전자 밴드 구조를 이해할 수 있어야 하기 때문이다. 점점 물리적 크기가 작아지는 소자에 대해서는 이제 고체물리학 뿐만 아니라 양자역학도 필요하다. 현재 굉장히 핫한 관심을 받고 있는 2차원 반도체 물질들의 위상 구조와 전기적 특성을 이해하기 위해서는 기본적으로 이들의 밴드 구조 외에도, 이른바 위상물질로서의 특징도 이해해야 한다. 특히 원자 단위로 소자의 특성 크기가 작아지면 많이들 언급하는 양자제한효과 (quantum confinement effects) 뿐만 아니라, 전자와 상호작용하는 다양한 준입자들 (quasi-particles)의 특성을 이해해야 한다. 예를 들어 폴라론, 포논, 폴라리톤, 엑시톤 같은 준입자들이 그러하다. 이들은 양자역학적 입자이며, 이들의 특성을 이해하기 위해서는 기본적으로 이들이 전자와 어떤 상관관계를 갖는지를 제대로 분석할 수 있어야 한다. 그렇게 되면 이제는 양자역학이 아니라, 양자전기역학이 필요하다. 고체물리, 양자물리는 물론, 기본적인 전자기학도 무척 중요하다. 애초에 FET라는 현 세대 트랜지스터의 기본 구조는 field-effect transistor를 말하는데, 여기서 말하는 field란 다름아닌 전자기장이다. 포토닉스는 또 어떤가? 전자의 이동은 전자가 전하와 질량을 갖는 입자이기 때문에 늘 단점이 생기는 것을 피해갈 수 없다. 느리고 저항으로 인한 열이 발생한다는 단점이 바로 그것이다. 그래서 그것을 극복하고자 사람들은 광자에 주목을 오랜 기간 해왔고, 그 일부의 솔루션으로 제시된 것이 silicon photonics다. 그런데, 이 포토닉스를 이해하기 위해서는 빛의 특성을 이해해야 하고, 특히 계면에서의 광자와 파동의 특성을 해석할 수 있어야 한다. 이는 결과적으로는 3차원의 복잡한 나노 스케일 공간에서 맥스웰 방정식을 계산하는 것을 의미한다. 소자 내부에서는 또 어떤가? 전자와 정공이 이리저리 움직이면서 이들은 쌍을 이룰 때도 있고, 헤어질 때도 있다. 이들의 이동도를 제어하는 것은 반도체 소자에서는 상당히 중요한데, 이들의 집단적인 거동은 통계물리학의 partition function 개념부터 이해하는 것이 필요하다. 이들의 분포 확률과 특성 예측은 앙상블 개념으로 접근해야 하며, 자유에너지 개념을 이용하여 이들의 다양한 상태 전이 확률을 계산할 수 있어야 한다.
물리학만 중요한가? 아니다. 화학도 할 말이 많다. 실리콘이 주로 반도체 소재로 여겨지지만, 몇 가지 특수 목적에서는 비실리콘 계열 화합물반도체 (chemical compound semiconductor)가 중요하다. 예를 들어 전력반도체로 유명한 SiC가 대표적이다. 앞서 언급한 2차원 반도체 물질 중, MoSe2나 Graphene, hBN 같은 물질 들 역시, 일종의 화합물반도체라고 볼 수 있다. 에너지 전환 소재로 유명한 하이브리드 페로브스카이트 물질은 ABX3 타입인데, 여기서 X는 할라이드 이온이고, 이들의 조성을 조절하면 다양한 밴드갭을 튜닝할 수 있다. 화학이 관여하는 부분은 이러한 기본적인 소재 특성 및 구현에서 시작하며, 공정에 쓰이는 다양한 물질을 탐색하는 것까지도 이른다. 예를 들어 에칭 공정에 쓰이는 etchant나 다양한 가스들, 그리고 전이금속 등에 대해서는 무기화학, 분석화학의 연구가 필요하며, 패터닝에 쓰이는 PR의 backbone 설계나 acid amplification 등의 반응 기작은 유기화학과 고분자화학, 분석화학과 광화학의 연구가 동반되어야 한다.
물리학, 화학만 있으면 되는가? 아니다 수학도 필요하다. 수학이 뜬금없이 들어오는 것은 아니고, 최근 들어와서 반도체 소자와 구동 원리가 점점 난해한 영역으로 가면서 수학자들이 탐색한 다양한 이론들이 공학의 영역으로 넘어들어 오는 것을 살펴 볼 필요가 있다. 예를 들어 앞서 언급한 위상 물질의 이해는 당연히 수학 중에서 위상 수학에 대한 이해가 필요하다. 특정 영역에 집적해야 하는 반도체 소자의 자리 배치와 연결 구도 역시 위상 수학적 접근이 필요하며, 이들의 최적화는 최적운송이론 같은 수학이 필요하다. 복잡한 분자들이 좁은 영역에 배열될 때 이들의 연결구도나 분자 오비탈, 결함 생성 확률 등을 이해하기 위해서는 그래프 동형 분석 같은 위상 수학도 필요하고, 소자의 정보 복잡도나 신호 해석을 위해서는 정보이론에 필요한 수학, 그리고 그를 위한 비선형 동역학 등을 아우르는 수학이 필요하다. 소자 자체의 구동 시뮬레이션을 위해 늘상 쓰이는 편미분방정식은 두말할 필요도 없고, 특정 대칭성을 가져서 결정 구조 중, 재미난 전자 밴드 구조를 갖는 소재의 특성을 이해하기 위해 군론이 쓰이는 것은 이미 잘 알려진 사실이다.
사실 여기에 언급되지 않은 기초 과학 분야의 연구는 얼마든지 있다. 너무나 자연스럽게 쓰이고 있어서 굳이 기초과학으로 언급하지 않을 뿐, 이미 반도체를 비롯한 수많은 첨단 산업과 공학은 그야 말로 기초과학의 깊숙한 지하수에 뿌리를 내리고 있다. 나를 포함한 공학자들은 당연하다는 듯, 무엇인가 기술적 장애물에 막히게 되면 혹시 기초과학 분야에서 이에 대한 선행 연구가 없는지를 먼저 찾게 되고, 정말 엉뚱한 분야에서 아무런 상관이 없어 보이는 수십 년 전 연구 논문에서 그야말로 천금같은 해답을 발견하는 경우도 부지기수다.
기초 과학은 첨단 과학, 첨단 산업의 전제 조건이다. 모든 첨단 기술이 반드시 기초 과학의 선행 연구가 있었기 때문에 나온 것은 아니다. 그렇지만 현 시대 복잡한 산업 구도 속에서 갑자기 하늘에서 첨단 기술이 뚝 떨어지는 일은 없다고 봐도 무방하다. 그래서 기초 과학은 첨단 과학과 산업의 전제 조건이라고 해도 과장된 표현은 아니라고 생각한다.
Continuous Learning_Startup & Investment
이뿐만이 아니다. 앞서 언급한 대로 컴퓨팅 하드웨어의 성능에 대한 근본적인 벽이 존재하는 것에 더해, 데이터 저장도 현실적인 문제가 될 것이다. 이는 데이터를 저장할 수 있는 매체의 생산은 선형으로 증가하는 양상임에 반해, 생산되는 데이터 증가 경향은 지수함수를 따르고 있기 때문인데, 지금은 당연하다는 듯 개인들도 몇 TB짜리 클라우드들을 비교적 저렴한 가격에 사용하고 있지만, 이제는 클라우드와 대용량 서버 업체들도 이를 감당하지 못하는 순간이 올 것이다.…
하지만 한 가지 유념할 것이 있다. 박인규 교수님은 나도 잘 아는 분이고 또 존경하는 분이어서, 이분이 이러한 말씀을 하신 것, 그리고 그 취지에도 십분 동감하는 것은 두말할 필요는 없다. 다만, 기초 과학 = 첨단 과학 = 첨단 산업 의 공식이 표면화되는 것은 경계해야 한다. 기초 과학에서 첨단 산업이 흘러나오기 때문에 기초 과학을 첨단과학이라고 칭하고 싶은 것은 인지상정이지만, 모든 기초 과학이 반드시 첨단 산업으로 이어지는 것은 아니기 때문이다. 아이러니컬하게도 대부분의 기초 과학은 현시대 혹은 몇 세대 후의 첨단 산업을 염두에 두고 연구되는 것은 아니다. 예를 들어 강입자 물리학을 연구하는 물리학자들은 자신들이 연구하는 강입자가 몇 십 년 후 새로운 반도체 소자의 핵심 기술이 될 것이라 예측하거나 기대하지 않는다. (적어도 내가 아는 입자 물리학자 중에는 그러한 예측을 한 사람이 한 명도 없다.) 사실 그러한 예측을 하는 것은 현재로서는 많은 무리가 따르고, 실현 가능성도 그만큼 없기 때문이다. 그렇지만 그 실현 가능성 여부와 별개로, 애초에 입자 물리학자들은 반도체 혹은 다른 방향의 첨단 산업을 딱히 염두에 두면서 연구에 몰두하지 않는다. 그저 아직 인류가 탐색해 보지 못 한 우주, 미지의 영역을 탐색하는 스카우트처럼, 이들은 지식을 채굴하고 채굴한 광석을 끊임없이 사유하면서 회의하면서 다듬고 또 다듬을 뿐이다. 그렇게 고민한 흔적은 논문으로 박제되어 영원히 인류 문명 전체의 자산으로 공유될 뿐이다. 반도체와 가장 밀접할 것 같은 고체 물리학 역시 당장 반도체를 타깃으로 진행되는 기초 연구는 그리 많지 않다. 처음부터 그럴 요량이었던 연구들은 타깃이 명확하다. 그렇지만 대부분의 고체 물리학 관련 기초 연구들은 반도체만 생각하는 것도 아니고, 다른 첨단 산업을 염두에 두는 것도 아니다. 물론 게중에는 나중에 실현될 가능성이 있는 연구들도 있겠지만, 고체 물리학자들은 그것에 대해 큰 관심을 두는 것은 아니다. 그 관심은 후세의 공학자들, 첨단 소재를 찾는 학자들과 엔지니어들이 갖게 될 것이다.
기초 과학이 첨단 과학/산업으로 가는 징검다리라는 표현은 그래서 잘 사용되어야 하는 표현이다. 분명 징검다리는 맞지만, 기초 과학이 제시하는 징검 다리는 반드시 그 한 개만 있는 것은 아니며, 첨단 산업으로 가는 길도 반드시 기초 과학만이 제시하는 것은 아니기 때문이다. 그렇지만 기초 과학이 첨단 산업/기술로 가는 가장 유리하고 가장 잘 검증된 길을 제시한다는 사실에는 변함이 없다. 기초 과학은 기초 답게 연구의 자유도와 장기간의 집중을 허용해야 하고, 그럴 여건을 조성해 줘야 한다. 초치기 식으로 목표와 KPI를 정해놓고 닥달하는 것은 기초 과학과는 거리가 멀다. 기초 과학의 미덕 중 하나는 첨단 산업으로 가는 길을 만들어준다는 겉보기 장점에만 있는 것은 아니다. 진짜 장점은 기초 과학에서 이리저리 다양한 길과 수단을 탐색해 보고, 수많은 아이디어들이 명멸하는 가운데, 신기하면서 흥미로운 우연한 발견들이 이어질 수 있다는 것이다. 이러한 우연들은 의도를 가지고 접근하면 대개 발견되지 않는다. 그저 흥미를 좇아, 마구 동료들과 떠들다가, 꿈속에서, 양치질 하다가, 설겆이 하다가, 술에 떡이 되어 귀가하다가, 애인과 헤어지고 골방 안에 갇혀 울다가, 다른 분야 사람과 저녁 먹으며 신나게 떠들다가, 대학원생과 대화하면서 학생의 연구 결과가 엉뚱하게 나온 것을 들여다 보다가, 페트리 디쉬가 원치 않게 오염되었다가, 천체 망원경의 렌즈를 바꿔 끼우다가, 그렇게 우연하게 나온다. 우연이 허용되지 않는 기초 과학은 기초 과학이 아니며, 우연이 없는 기초 과학은 첨단 과학으로 연결될 가능성이 점점 낮아진다. 대개 첨단 과학을 생각하는 사람들은 기초에서 첨단까지 이어지는 일직선의 발전 노상을 생각하곤 하나, 대개 그러한 경로는 뒤죽박죽이고 꼬여있고 방향도 딱히 정해지지 않았으며, 지도에도 잘 표현되지 않는다. 기초에서 첨단으로 가는 것은 쉽게 '외삽'되지 않으며, 최단 거리로 연결되어 있는 것도 아니다.
한국이 앞으로도 첨단 산업에서의 경쟁력을 유지하고, 일부 분야에서는 리더쉽까지 가져가고 싶다면, back to basic을 잊지 말아야 한다. 기초 과학의 자유도, 엉뚱한 생각을 하는 연구원들, 실패를 피봇하여 전혀 새로운 주제로 변화하게 할 수 있는 유연성, 성실 실패를 용인하고 협력 연구를 서포트하는 제도가 완비되어야 한다. 그간 한국의 기초 과학과 산업 연구계는 그럭저럭 잘 지내왔다. 겨우 반 세기도 안 되는 기간 동안 한국은 비료 산업이나 간신히 유지하던 후진국에서 반도체와 AI, 자동차와 디스플레이, 조선업과 화학산업에서의 리더십을 갖는 나라로 급속도로 발전했는데, 이 과정에서 기초 과학과 첨단 공학은 다방면에서 오버랩되고 또 엮여 왔다. 그랬기에 오히려 압축 성장 단계에서는 과학과 공학 사이의 경계가 다소 느슨하고 필요한 것은 다 가져다 쓰는 유연성이 본의아니게(?) 허용될 수 있었다고 생각한다. 그렇지만 시스템이 어느 정도 확립되고 또 더 이상 fast follower 전략을 쓰지 못 하게 된 현 시점에서는 back to basic의 방향은 지지되고 보존될 수 있어야 한다. 호기심 많은 사람들이 과학에 투신하여 충분히 대우 받고 지식을 채굴하고 필요하다면 이들이 이것을 산업계로 들고와서 돈도 많이 벌 수 있는 기회를 허해야 한다. 여기서 가장 우선시 되어야 하는 것은 호기심 많은 사람들이 자신들의 연구 결과를 가지고 필요하다면 다음 단계로 갈 수 있을 정도까지의 시간과 여건이 충분히 허락되어야 한다는 것이다. 기초 과학의 R&D를 정부가 계속 지원하고, 딱히 논문 외에 별 성과가 없어 보이는 주제일수록 정부가 더더욱 보호해야 하는 것은 바로 이 때문이다.
기초 과학은 기초 답게 가꾸고 또 가꿔야 한다. 기초 과학을 정부가 지원하는 것에 대해 국민을 설득하기 위한 목적에서 기초 과학이 첨단 과학과 산업으로 가는 지름길이라는 것을 잘 전달하는 것은 당연히 필요하지만, 기초 과학이 첨단 공학에 매몰되게 만드는 우를 범하는 것은 피해야 한다. 그렇게 되는 순간 기초 과학에서 기초는 없어지게 됨을 생각해야 한다. 여러 시행 착오를 거쳐 한국의 기초 과학 R&D는 혼란을 겪고 있다. 부디 이 혼란이 건설적인 방향으로 마무리되어 젊은 연구자들의 호기심, 뚝심있는 중견 연구자들의 개척정신, 연륜과 경험이 충분히 쌓인 원로급 연구자들의 지혜가 보존되고 융성할 수 있기를 바랄 뿐이다. 혼란이 이러한 보이지 않는 과학의 자산을 갉아먹는 방향이 된다면 한국의 기초 과학은 물론, 첨단 과학과 공학의 결말도 운명 공동체가 되는 것을 피할 수 없음을 되새길 필요가 있다.

https://www.facebook.com/sjoonkwon/posts/pfbid02uFDWo4686EMuFKLeYZLhMfmGpeh5Q2R27DonwpPxWXV71XVQKZhkcKHpC6J5seD5l