삶이 살 만한 가치가 있는가는 삶을 사는 사람에게 달려 있다.

The meaning of life and death

호암자전 중에서

생각하면 할수록 난제는 산적해 있다. 그러나 누군가가 만난을 무릅쓰고 반드시 성취해야하는 프로젝트이다. 내 나이 73세 비록 인생의 만기이지만 이 나라의 백년 대계를 위해서라도 어렵더라도 전력투구를 해야할 때가 왔다. 이처럼 반도체 개발의 결의를 굳히면서 나는 스스로 다짐했다.

수많은 미국, 일본, 국내 전문가들의 의견을 거의 다 들었다. 관계자료는 손닿는 대로 섭렵했고, 반도체와 컴퓨터에 관한 최고의 자료를 얻고자 무한히 애를 썼다.

최고경영자의 자질

1. 덕망을 갖춘 훌륭한 인격자
2. 탁월한 지도력을 구비
3. 신망을 받는 인물
4. 창조성이 풍부
5. 판단력이 있음
6. 추진력이 있음
7. 책임을 질 줄 아는 사람

경제의 발전에는 반드시 과정과 단계가 있게 마련이다. 자본의 축적 상황, 기술의 수준, 내외 시장의 동향 등 여건에 상응하여 추진해야 산업은 발전하는 것이다.

나는 거듭 강조하고 싶다. 기업은 결코 영원한 존재가 아니다. 변화에의 도전을 게을리 하면 기업은 쇠퇴하기 시작한다. 그리고 일단 쇠퇴하기 시작하면 재건하는 것은 지난하다.

창업보다 수성이라고 한다. 사업을 일으키는 것은 결코 쉽지 않다. 그러나 이미 이룩해놓은 사업을 지켜간다는 것은 그 이상으로 어렵다.

나의 일과는 수십년에 걸쳐 한결같다. 아침 6시에 기상하고 저녁 10시에는 반드시 취침한다. 생활 리듬은 여간해서는 깨뜨리지 않는다. 깨어있으면 촌시도 허송하지 않지만 한번 잠자리에 들면 모든 것을 잊고 깊이 잠든다.

일주일에 나흘은 회사에서 집무한다. 나 스스로 규율을 정해놓고 그대로 실천한다. 집무스케쥴은 예쩡에 따라 분초를 쪼개어 짜여있다. 깨어있는 시간 16시간 동안 내 전부를 사업에 몰입 시킨다고 해도 과언은 아니다. 작금의 관심사는 반도체와 생명공학 분야이지만, 거기에는 외국기업과의 기술제휴에 관한 일이 많아, 내가 직접 교섭을 맡고 있어 상당히 바쁘다. 오랜 습관으로 반드시 메모를 하는데 이것이 일을 챙기고 정리하는 데 큰 도움이 된다.

논어에는 내적 규범이 담겨있다. 간결한 말속에 사상과 체험이 응축되어 있어 인간이 사회인으로 살아가는 데 불가결한 마음가짐을 알려준다. 법류과는 대극의 위치에 있다.

"생각과 아이디어를 공유하는 동료 창업자와 투자자들이 한걸음에 만날 수 있는 거리에 있다는 것은 초기 스타트업의 성공을 위해 그 무엇보다도 강력한 혜택이라고 생각합니다."

- 개리 탠, 와이콤비네이터

샌프란시스코가 다시 AI의 메카로 주목받고 있습니다. 국내에서는 뒤늦게 주요 미디어와 유튜브 채널에서 샌프란시스코 슬럼가 뉴스를 다루며 2 - 3년 전부터 이어져 온 문제가 갑자기 주목받기 시작하였지만 도시는 사실 빠르게 회복되고 있는 단계입니다. 게다가 AI 스타트업 중 가장 많은 자금을 빨아드리고 있는 두 회사인 오픈AI와 앤트로픽이 모두 자리를 잡고 있는 곳 또한 샌프란시스코인 만큼 도시는 다시 창업의 중심지로 비상할 준비를 하고 있습니다.

https://techcrunch.com/2024/01/18/general-catalyst-india/

실리콘밸리 벤처캐피탈 제너럴 카탈리스트가 인도 벤처 투자를 강화하기 위해 로컬 VC인 '벤처 하이웨이 (Venture Highway)' 인수를 추진합니다.

(중국에서 개발한 항암제를 미국에서 팔려는 바이오텍, 나스닥 상장 도전)

========
항암제 개발사, ArriVent Biopharma가 지난 주 금요일에 상장 신청을 하였다. 예상 공모 규모는 $135mil. 이고, 주간사 옵션 행사 시, $156mil.까지 증가한다. 티커는 AVBP이다.

이 회사는 중국에서 개발된 제품을 도입하여 미국 등의 서구 시장에서 판매하려는 사업 전략을 취하고 있다.

이 회사의 주력 제품, furmonertinib(EGFR tyrosine kinase 저해제)는 비소세포페암 치료제로 2021년에 중국에서 시판 허가를 받았다. 또한 FDA로부터 EGFR 엑손20 삽입 돌연변이 비소세포폐암에 대한 FDA 혁신 치료제 지정도 받았다.

현재 FDA 시판 허가를 받기 위한 임상 3상을 진행 중이며, 향후 적응증 확대도 하고자 한다. 추가로 Aarvik사와 ADC 제품 공동개​발도 진행 중이다 .

이 회사는 2021년에 설립되었고, 펜실베니아에 위치해 있다.

==============
(written by 심수민, 파트너스인베스트먼트)

텔레그램 채널: https://news.1rj.ru/str/global_biohealthcare_news

https://www.biospace.com/article/arrivent-biopharma-seeks-to-potentially-net-over-156m-in-ipo-/

https://acquired.fm/episodes/novo-nordisk-ozempic

Last year Novo Nordisk, the Danish pharmaceutical company behind Ozempic and Wegovy, overtook LVMH to become Europe’s most valuable company. And the pull for Acquired to finally tackle healthcare (18% of US GDP!) became too strong for us to resist. While we didn’t know much about Novo Nordisk before diving in, our first thought was, “wow, seems like these new diabetes and obesity drugs mean serious trouble for big insulin companies.”

And then… we realized that Novo Nordisk IS the big insulin company. And in a story befitting of Steve Jobs and Apple, they’d just disrupted themselves with the drug equivalent of an iPhone moment. Once we dug further, we quickly realized this company has it all: an incredible 100+ year history filled with Nobel Prizes, bitter personal rivalries, board room dramas, a generation-defining silicon valley innovation, lone voices persevering against all odds — and oh yeah, the world’s largest charitable foundation at its helm. Tune in for one incredible story!
‍

연구자의 앞에는 항상 난관이 있다. 이때 당장 해낼 수 있는 일을 찾아야 한다. 어떠한 아이디어도 나쁜 생각이라 단정할 수는 없다. 교과서에서는 수백 년에 걸쳐 정제된 깔끔한 이론을 가르치지만, 실제 연구는 굽이진 길을 따라간다. 서울에서 부산을 가고 싶어하더라도, 우리의 연구 과정은 강릉, 심지어 제주까지 들렀다 와야 하곤 한다.

잘 아는 것 중 가장 어려운 것을 말하는 과정이 ‘발표’라면, 모르는 것 중에서 가장 쉬운 것을 찾는 작업이 ‘질문’이다. 아무리 어려운 문제라도 아무런 말조차 할 수 없을 리는 없다. 약간의 불빛이 비치는 바로 그곳에서 좋은 질문으로 시작한다면, 오늘도 생각의 수레는 움직일 것이다. 좋은 생각을 가로막는 것은 생각하지 않는 것뿐이다.

https://www.joongang.co.kr/article/25222759?fbclid=IwAR1QQMQbwcX2sDXxJkW8SjfVGDWP6voS1IXU7vA8MmrORw1kR7KbiYcMxqk#home

보다 많은 실패와 고뇌의 시간이
비켜갈 수 없다는 걸
우린 깨달아야 해
이제 그 해답이 사랑이라면
나는 이 세상 모든 것들을
사랑하겠네

바람의 노래

I am super excited to introduce SNU ParaHome, our new multi-camera + human motion capture system in a home setup! Our system aims to capture daily human-object interactions in a fully parameterized 3D space, capturing human body motions, dexterous finger motions, and the 3D rigid+articulated movements of various objects. Currently, we have collected about 500 min of data from approximately 40 individuals, and keep collecting more and more data.

This is something I envisioned pursuing after the Panoptic Studio project, with the motivation to capture both humans and the environment in a more natural setup. It's just the first milestone, and we have various exciting ideas to further develop this direction.

It's the core output of our two years of investments in time, effort, and budget at SNU. I am extremely happy about the achievement of our teams who built the entire system from scratch. Kudos to Jeonghwan Kim, Jisoo Kim, and Jeonghyeon Na, who are leading the project!

Project Page: https://lnkd.in/g2qGmZVA
Paper: https://lnkd.in/gZEaSBhM

아주 작은 카페를 하나 만들려고 한다. 당장은 아니고, 아마 2-3년 내에 하나 만들지 않을까 싶다. 카페 컨셉은 명확하다. 사람들이 편하게 라운지처럼 들려서 이야기할 수 있는 카페. 밤에 술 먹고, 합석하는 그런 분위기가 아니라... 대낮에 카페나 티 한 잔 들고도 편안하게 모르는 사람들과 대화 나눌 수 있는 그런 라운지 같은 카페.

서로 같은 일을 하는 업계의 사람일 수도 있고, 완전히 새로운 사람일 수도 있는. 누구는 학생일 수도 있고, 누구는 사업가일 수도, 누구는 디자이너, 개발자일 수도. 그 안에서 새로운 인연이 생겨나 인생의 친구가 생길 수도, 연인이 생길 수도, 공동 창업자가 생길 수도. 서로 편견 없이 대화할 수 있는. 그 무엇도 정해진 것 없지만... 그런 정해지지 않은 미래를 시작할 수 있게 시발점이 될 수 있는 그런 카페.

서울이라는 공간에 마음이 따뜻해지고, 모르는 사람이 말을 걸어와도 편하게 대화할 수 있는 그런 환경과 공간이 있으면 참 좋겠다는 생각을 했다. 결국 환경이 있으면 사람은 거기에 맞춰서 움직이니까. 우리가 서로에게 더 잘해주지 못하는 것은 그러할 수 있는 맥락과 환경이 부족해서라고 생각해서.

함께 할 수 있는 친구들과 이런저런 아이디어들을 던지고 있다. 결국 사람이 있으면... 어떻게든 그 방법은 찾아가는 게 인생이니까. 새로운 무언가의 시작이 된다는 의미에서 카페 이름은 '시발점' 정도면 어떨까 싶다. 일단 끄적끄적. 어떻게든 되지 않을까.

https://blog.naver.com/bizucafe/223331717261

Forwarded this email? Subscribe here for more

2024년 1월 18일
KIM SEONGHYEON
JAN 18

 




READ IN APP
 
HippoAttention

FP8 Attention들이 나오기 시작하는군요. (https://blog.fireworks.ai/fireattention-serving-open-source-models-4x-faster-than-vllm-by-quantizing-with-no-tradeoffs-a29a85ad28d0) Flash Attention v2의 1.5 ~ 3배 가량의 수치를 보여주고 있네요.

저도 FP8을 써보고 싶네요. 4090이라도 구해와야할지.

#efficiency

Solving olympiad geometry without human demonstrations

(Trie H. Trinh, Yukuai Wu, Quoc V. Le, He He, Thang Luong)


Proving mathematical theorems at the olympiad level represents a notable milestone in human-level automated reasoning, owing to their reputed difficulty among the world’s best talents in pre-university mathematics. Current machine-learning approaches, however, are not applicable to most mathematical domains owing to the high cost of translating human proofs into machine-verifiable format. The problem is even worse for geometry because of its unique translation challenges, resulting in severe scarcity of training data. We propose AlphaGeometry, a theorem prover for Euclidean plane geometry that sidesteps the need for human demonstrations by synthesizing millions of theorems and proofs across different levels of complexity. AlphaGeometry is a neuro-symbolic system that uses a neural language model, trained from scratch on our large-scale synthetic data, to guide a symbolic deduction engine through infinite branching points in challenging problems. On a test set of 30 latest olympiad-level problems, AlphaGeometry solves 25, outperforming the previous best method that only solves ten problems and approaching the performance of an average International Mathematical Olympiad (IMO) gold medallist. Notably, AlphaGeometry produces human-readable proofs, solves all geometry problems in the IMO 2000 and 2015 under human expert evaluation and discovers a generalized version of a translated IMO theorem in 2004.

https://deepmind.google/discover/blog/alphageometry-an-olympiad-level-ai-system-for-geometry/ https://github.com/google-deepmind/alphageometry

딥마인드의 올림피아드 기하학 문제를 푸는 시스템. LM이 정의를 만들고 기호 기반 엔진이 전제와 정의로부터 결론들을 연역해나가는 것을 반복해서 증명에 도달해나가는 방법이군요.

데이터 전체를 합성해서 만들었는데 이 데이터의 구성 과정이 핵심이라고 할 수 있겠네요. 전제를 랜덤 샘플한 다음 이 전제에서 유도되는 결론들을 연역하고 이 연역 과정을 기반으로 결론들의 그래프를 만듭니다. 이렇게 하면 임의의 문제와 그에 대한 답을 생성하는 것이 되죠.

여기서 증명 시스템을 만들기 위해서는 정의를 생성할 수 있어야 하는데 이 정의는 결론에 포함되지 않지만 그래프에는 포함된 전제들을 사용합니다. 전제와 결론을 주고 정의들을 예측하게 만드는 것이죠. (이 부분이 좀 헷갈리긴 합니다.)

https://arxiv.org/abs/2401.08525

As the AI community increasingly adopts large-scale models, it is crucial to develop general and flexible tools to integrate them. We introduce Gather-Attend-Scatter (GATS), a novel module that enables seamless combination of pretrained foundation models, both trainable and frozen, into larger multimodal networks. GATS empowers AI systems to process and generate information across multiple modalities at different rates. In contrast to traditional fine-tuning, GATS allows for the original component models to remain frozen, avoiding the risk of them losing important knowledge acquired during the pretraining phase. We demonstrate the utility and versatility of GATS with a few experiments across games, robotics, and multimodal input-output systems.

여러 모델들을 연결하는 방법. 서로 다른 모델의 레이어들 사이에 GATS라는 모델의 레이어들을 끼워넣는 방식입니다. GATS는 서로 다른 모델의 임베딩에서 각각 최근 임베딩 N개를 가져와서 Attention하고 원 모델의 임베딩으로 Projection 하는 구조네요.

로봇 조작이나 게임 같은 걸 하다가 아주 가볍게(?) MaskGIT과 Chinchilla LM을 GATS로 연결해서 ViT를 학습하는 것과 ViT와 Chinchilla LM을 GATS로 조합하고 MaskGIT & Autoregressive LM으로 학습해서 이미지 캡셔닝과 Text2Image 학습을 한 사례를 보여줍니다.