https://www.anthropic.com/research/mapping-mind-language-model

대규모 언어 모델인 클로드 소네트에 대한 Anthropic의 연구는 수백만 개의 개념이 내부적으로 어떻게 표현되는지 밝혀냈습니다. 이들은 ‘사전 학습‘을 사용하여 반복되는 뉴런 활성화 패턴을 해석 가능한 특징으로 매핑했습니다. 이 접근 방식은 모델 행동을 이해하는 데 도움이 되며, 편견을 줄이고 오용을 방지하여 잠재적으로 AI의 안전성을 향상시킵니다.

사전 학습은 머신러닝에서 더 복잡한 데이터를 구성할 수 있는 일련의 기본 요소(‘원자’라고 함)를 찾는 데 사용되는 기법입니다. 이러한 기본 요소는 데이터의 패턴, 즉 신경망 내의 뉴런 활성화 패턴을 분석하여 추출합니다.

Implications
1. AI 행동 이해하기:
a. 뉴런 활성화를 해석 가능한 특징으로 변환함으로써 연구자들은 AI 모델이 결정을 내리고 반응을 생성하는 방식을 이해하고 모델을 디버깅하고 개선하는 데 도움이 됨.
2. AI 안전성 향상:
a. 내부 작동을 더 명확하게 이해하면 잠재적인 위험을 식별하고 완화하기가 더 쉬워집니다. 예를 들어 편향적이거나 유해한 행동과 관련된 기능을 모니터링하고 제어할 수 있습니다.
3. 모델 응답 조작:
a. 연구자는 특정 기능을 증폭하거나 억제하여 모델 행동의 변화를 관찰하는 실험을 할 수 있습니다. 이 기능은 모델이 원하는 윤리 지침에 따라 안전하고 예측 가능한 방식으로 작동하도록 하는 데 사용할 수 있습니다.
4. 모델 훈련 강화:
a. 사전 학습에서 얻은 인사이트를 사용하여 학습 프로세스를 개선함으로써 모델이 바람직하지 않은 특징의 영향을 최소화하면서 더 바람직한 특징을 학습하고 우선순위를 정하도록 할 수 있습니다.

Draw out the interviewee's inner voice and foster deep involvement.

https://youtu.be/wTtOQMDB8mM?si=-L2NryjmR8M36k4Z

As widely known by now, research indicates that the highest-performing teams are psychologically safe teams. Leaders must ensure that people feel they are being heard and that anyone can express their opinions freely.

However, a leader's job is to make decisions, which sometimes involves the leader stepping in and making a proprietary decision based on their unique insight and conviction. Otherwise, teams can't move quickly enough.

Finding the right balance between these two is one of the most difficult aspects of a leader’s job.

Chang Kim

https://youtu.be/gvNTPi2ibDQ


Q: What motivated you to learn various technologies such as automotive technologies, rocketry, and battery technology after college?

A: I find that I need to learn whatever I need to learn to accomplish an objective. I believe most people could do this, but they often self-limit. People are capable of more than they think. By simply reading a lot of books and talking to people, you can learn almost anything.

https://youtu.be/JbHip4tjEcg

Movements often start as little-known ideas that passionate and hardworking believers turn into a larger social movement, which can eventually impact millions or billions of people.

The first stage of any movement is "emergence" or social ferment, where an individual identifies a problem that nobody else cares about yet and tries to solve it for themselves.

The punk rock DIY ethic as a way of doing things without waiting for permission, emphasizing authenticity and the importance of starting with whatever resources are available. You don't need perfect conditions or equipment to start; what matters is the authenticity and passion behind your efforts.

Shake off the notion that life is something to be passively lived in. Instead, embrace it, change it, and make your mark upon it, and by doing so, you can start a true social movement.

의견이 나뉘는지, 사람이 나뉘는지 면밀히 살펴야 한다.

의견이 나뉘는 조직은 건강한 조직이다.
일단 의견이 있다는 것만으로도 건강하고,
다른 의견이 존재한다는 것 자체도 건강한 조직이다.
다른 의견들이 잘 취합되고 논의되고 더 나은 의견으로 수렴되는 과정까지 있다면 해당 조직은 성장을 경험하고 있을 확률이 높다.

의견이 아닌 사람이 나뉘는 조직은 위험한 조직이다.
사람이 나뉜다는 것은, 끼리끼리 집단이 생김을 의미한다.
집단은 의견을 나누지 않는다. 대신 불만을 나눌 가능성이 크다.
그리고, 일에 대한 건전한 의견 표현 대신 집단 행동을 한다. 최소한의 존재감/영향력을 드러내고자 하는 욕구가 '집단'으로 수렴되었을 가능성이 크다.

의견이 나뉘고 의견이 소통되는 조직이어야 오래 길게 성장할 수 있다.
집단이 나뉜 조직은, 그 문제가 해결되지 않는 한, 성장 동력이 떨어질 수밖에 없다.

집단은 없되, 건전한 의견은 존재하는 조직으로 성장했으면 좋겠다.
그러기 위해서는 1) 냉정해야 하고, 2) 이성적으로 행동/발언해야 하며, 3) 때로는 전략적이고 때로는 솔직해야 하고, 4) 길게 보고 꾸준히 노력해야 하며, 5) 무엇보다 의견을 내는 사람들을 존중해야 한다.

이승훈 대표님

Index Ventures led heavily oversubscribed round with participation from late-stage investment firms ICONIQ Growth, Teachers’ Venture Growth, and more
Rapid enterprise adoption of DeepL has fueled the company’s growth in 60+ global markets for 100,000+ businesses, governments, and other organizations
DeepL’s Language AI Platform for business provides category-leading AI-powered translation and writing solutions

번역 AI DeepL이 $2b 밸류에 $300m 투자유치에 성공했다고 발표. Index, ICONIQ 등이 참여. 찾아보니 작년 매출은 $141.3m 인듯.

번역 서비스가 유니콘 찍는다는게 신기하면서도, 매출이 나오는걸 보면 충분히 납득된다는 생각이 든다.

https://www.deepl.com/en/press-release

China plans to expand its low-altitude economy, which includes drones and flying cars. The market is expected to reach 2 trillion yuan ($276 billion) in 2030, government agencies say, up from about 500 billion yuan in 2023.

China drone expo highlights growing 'low-altitude economy'

An annual drone trade show kicked off on Friday with around 500 companies exhibiting products, up about 100 from the last event, as Beijing works to develop industries in the so-called low-altitude economy.

Read more here

PE의 관점 차용하기

과거 많은 자본이 start-up 에 집중되었을 때에는 '어떤 서비스가 더 좋은 사용 경험을 제공하여, 1) 더 많은 사람들이 2) 더 자주 쓰고, 3) 더 오래/계속 쓰게 하는가?가 가장 중요한 지표였다. '얼마나 빠르게 수익을 낼 수 있는가?' 보다는 '서비스를 반복 사용하는 유저를 얼마나 많이 빠르게 모아서 업을 장악할 수 있는가?'가 중요했다. 쿠팡이 엄청난 적자를 보면서도 버텨낼 수 있었던 이유는, 쿠팡의 성장을 value 하는 자본이 있었기 때문이었다.

이 시기에는 '유저', '문제해결', '성장'이라는 단어가 가장 많이 회자되었던 듯하다. MBA 에서도 매출/수익 보다는 유저/문제해결/성장이라는 단어가 언급된 빈도수가 압도적으로 높았다. 그 관점에서 Scalability가 회사를 평가하는 키워드였다.

다만 최근 1~2년 사이 금리가 비정상적으로 빠르게 인상되는 과정에서, 자본이 Start-up 을 바라보는 관점이 급변하였다. 서비스가 얼마나 빠르게 성장하고 있는가?도 중요하지만, 전 세계의 폭발적 관심을 받고 있는 LLM/시스템 반도체 영역에 있지 않은 이상은, 당장 수익을 만들어 낼 수 있는가?가 매우 중요한 지표가 되었다.

결국 Scalability 만큼이나, unit economics & profitability 가 중요해진 것이다.

다시말해, 요즘 같은 시기에는 1) 더 자주 쓰임받는 서비스를 만들되, 2) unit economics 를 합리적으로 설계하여, 3) top-line 과 수익의 동반 성장을 만들어 내는 것이 중요하다.

그 관점에서 요즘은 PE의 approach 를 '합리적'으로 활용하는 것이 도움이 된다고 생각한다.

2~3년 뒤 우리 회사가 목표하는 재무제표/손익계산서를 정해 놓은 뒤, 지표를 그렇게 만들기 위해 앞으로 2~3년 간 1) unit economics (제품 1개 팔 때의 수익구조)를 재설계하고, 2) 필요한 규모의 매출을 만들어 내는 과정에서, 3) 고정비를 합리적으로 통제/관리하여, 4) 필요한 영업이익을 특정 기한 내 만들어 내느냐를 top-down 으로 정의해 보는 것이다.

결국, 1) 유저의 사용성을 높여가며 서비스를 성장시키는 여정과, 2) 회사가 더 좋은 평가를 받기 위해 달성해야 하는 2~3년 뒤 재무/수익 구조를 align 시키는 것이 앞으로 2~3년의 핵심이 되지 않을까 생각한다.

비전-미션-상품-서비스-사람-시스템-인프라를 align 시키는 것을 넘어, 서비스와 재무구조 성장을 align 시키는 것이 중요해진 현 시점에서, 재무구조 관점에서 biz model 을 만들어가는 PE의 관점을 스타트업 운영 시 '부분적으로 차용'할 필요가 있다.

단, 시대가 또 어떻게 바뀔지 모르기 때문에, 수익이 성장을 느리게 만드는 구조는 피해야 한다고 생각한다. 성장이 주춤하면 그 때부터 '스타트업'으로의 정체성이 파괴되기 때문이다. (PE 관점을 차용하되, 매출-수익이 x10 성장하는 모습을 설계해야 하는 것이다)

어려운 시대다. 하지만, 모두에게 큰 자본이 선사되어 모두 자본을 던지는 play 하는 시기보다, 어려운 환경에서 고민/자원을 쥐어짜내며 하루하루 버텨나가야만 하는 시대가, 스타트업을 진짜 스타트업으로 만들어 주는 시간일 수 있다. 이제는 다시 스타트업답게 적은 사람이 더 빨리 더 민첩하게 더 과감하게 움직여서 유저도 만족시키고 비용 효율적 성장을 만들어 나갈 수 있도록... 그래서 2~3년 내 팀이 원하는 재무지표로 만들어 낼 수 있도록 화이팅 해야겠다.

https://lnkd.in/gjcmRQzz

뾰족한 문제를 설정한다는 것

"AI로 사업을 할 때, 아니 모든 창업이 보통 창업가나 창업팀이 관심있고 중요하다고 생각하는 문제에서 출발합니다. 하지만 위조 상품의 적발, IP 보호 같은 영역은 일반적인 창업씬의 분들이 떠올리기 쉽지 않은 특수한 영역이거든요. 저처럼 법학을 전공하거나, 특별한 전공을 하지 않는 이상 이 분야를 떠올리지 않고, 지겨운 산업이라고 생각하는 경우가 많더라고요. 혹여 새로운 회사가 들어온다고 하더라도, 저희가 지금까지 쌓아온 데이터와 경험, 노하우, 고객사와의 관계가 수 년은 앞서 있기 때문에 경쟁력을 유지할 수 있다고 봅니다.”

https://stibee.com/api/v1.0/emails/share/-SQU-VGA4Gw8T-Yykls7rEsXH_IXZiI

AI completely revolutionizes how we can work with enterprise information. Since the mainframe era, it’s been relatively trivial to work with our *structured* data in an enterprise. We could query, compute, synthesize, summarize, and analyze anything that could be structured in a database - i.e. the data sitting in our ERP, CRM, and HR systems.

But it turns out this is only a small fraction of our corporate information. If you were to “weigh” the amount of data inside of an enterprise (in the form of raw storage), roughly 10% of it would be structured data, and 90% of it would be unstructured data. Unstructured data — things like our documents, CAD files, marketing assets, and emails — makes up the vast majority of our corporate data. And for essentially the entire history of computing, we haven’t *really* been able to make sense of this information unless a human is involved. Of course we can store it, send it, share it, and search for it — but deeply understanding what’s inside this information in a way that computers can interact with has been near-impossible.

Well, for the first time ever, generative AI actually lets us talk to our unstructured data. Multimodal models especially allow us to process this content using a computer and essentially perform any task that a human can, but at infinite scale and speed. This is utterly game-changing when working with content in the enterprise. It means we can ask any questions of our content, we can automate nearly-any workflow, and ultimately better improve the security of our data.

Imagine taking all the valuable knowledge in your enterprise and enabling — with the appropriate permissions — any employee to ask questions of this information. Instantly, our content goes from being digital artifacts that may be touched at some point, to digital memory that we can tap into at any point.

When we can turn our content into valuable knowledge, everything about how we work changes. A new employee instantly has access to the same expertise of someone who’s worked at a company for 15 years; you can be alerted automatically to the riskiest clauses of a new contract; you could connect the dots between customers’ inquiries and valuable data to sell products better. Now, we can simply ask computers to do the work that has always been constrained by our time and resources.

We’re entering an era of intelligent content management.

This is what we’re building at Box with Box AI, which is our model-agnostic platform for bringing AI to enterprise content, with security, governance, and compliance built into the core. We're insanely excited to be going on this journey with all of our customers, and you can expect a constant stream of breakthroughs from Box in the coming months, quarters, and years.

Arron Levine

과한 책임감은 때론 나를 힘들게하는 독이 될때가 있다.

과거 컨설팅 회사 재직 시절 (3~4년차 시절), 당시 이사님께 아래와 같은 피드백을 받은 적이 있었다.

"승훈님은 책임감 중독일 때가 간혹 있다. 책임감이 있다는 것은 매우 좋지만, 책임감이 과하면 1) 스스로를 힘들게 할 뿐이고, 2) 그 책임감이 팀 성과 개선에 도움이 되지 않을 수도 있다. 필요한 만큼 책임감을 느끼고, 퍼포먼스가 개선될 수 있는 방향으로 책임감을 발휘할 필요가 있다. 전반적으로 힘 좀 빼자"

1~2년차 주니어 시절 '무조건 열심히 빡세게!!' 살아왔고, 그 방식을 3~4년차에도 고수하던 나로서는 '잘하는 것은 무엇이고 잘하기 위해 어떻게 해야 하는가?'를 생각해 볼 수 있었던 좋은 계기가 되었다.

요즘 창업을 준비하는 분들을 만나면 유사한 결로 비슷한 이야기를 한다.

"창업, 무거운 책임감이 느껴지시겠지만, 마음을 살짝 가볍게 가지셔도 됩니다. 마음이 너무 무거우면 시작도 늦어지고, 실행도 더뎌질 수 있습니다. 창업자들 중 본인이 본인을 너무 힘들게해서 상황을 더 악화시키는 경우가 많기도 합니다. 문제는 객관적이고 냉정하게 바라보되, 실행은 가볍고 빠르게 진행할 필요가 있습니다.

더불어, 창업을 실제 하게 되면 실수를 반복하게 되고, 그 과정에서 꽤 힘든 순간을 마주하게 되는데, 그럴 때 더 잘하기 위한 핵심은 1) 현실을 최대한 빠르게 받아들이고, 2) 더 나은 next step 을 만들기 위한 시사점을 찾고, 3) 이를 바탕으로, 내 행동, 내 기준을 바꾸는 것에 있다. 조심해야 할것은, 그 과정에서 지나친 압박감을 느껴 생각이 많아지고 감정의 기복이 생기게 되면, 시야는 좁아지고 언행에 심리가 그대로 반영되어, 일만 그르치게 될 수 있다.

결론적으로, 결국 모든 일의 핵심은 '문제해결을 통한 더 나은 output 개발 & impact 구현'이기 때문에, 때로는 '내가 어떻게든 반전을 만들어내야 한다 (내가 모멘텀을 만들어내야 한다)'는 책임감/압박감은 살짝 내려놓고, 침착한 마음으로 주변 사람들과 빠르게 대화/협업하며 하루하루의 실행에 집중할 필요가 있다.

이승훈 대표님