Continuous Learning_Startup & Investment – Telegram
Continuous Learning_Startup & Investment
2.4K subscribers
513 photos
5 videos
16 files
2.72K links
We journey together through the captivating realms of entrepreneurship, investment, life, and technology. This is my chronicle of exploration, where I capture and share the lessons that shape our world. Join us and let's never stop learning!
Download Telegram
Lessons gleaned from my wise bro

- Trust is built through a tapestry of gentle acts and kept promises.

Doug Leone of Sequoia Capital

Trust is forged through a blend of sincerity and excellence. In the absence of either, securing trust becomes challenging. Integrity is essential for fostering a healthy work environment; without it, you risk alienating your team. On the other hand, a lack of excellence hampers trust-building. It sets the tone and vision for a company. Once the company's direction is determined, it's crucial to attract the talent required to turn that vision into reality.

Jeff Bezos:

The founder of Amazon shared his 4-step method for building trust and reputation:
1. Do hard things: Earn trust by doing hard things well over and over again.
2. If you say you're going to do something, do it: Keep your promises and commitments.
3. Take controversial stances: Be willing to take risks and make tough decisions.
4. Have clarity: Be clear in your communication and decision-making.
Continuous Learning_Startup & Investment
https://www.longblack.co/note/738?ticket=NT17324b07422a33b8e9e23607de338f93262c450b
주의력은 “주변의 불필요한 소음이나 수다”나 “의식 표면 위로 계속해서 떠오르는 자잘하고 잡스러운 생각”_12p을 걸러내는 힘입니다.

주의력이 모자라면, 인간은 혼란에 빠져요. 멍해지면서 주변에서 벌어지는 사건을 알아채지 못하죠. 특히 요즘 우리가 이런 위기를 자주 겪습니다. 스마트폰을 통해 밀려드는 정보와 유혹적인 콘텐츠 때문이죠. 이런 게 우리 주의를 빼앗아요. 나를 산만하게 만듭니다.

사실 한 번뿐인 인생이잖아요. 내가 내 삶에 온전히 몰입하지 못하고 한 발짝 떨어져 있다는 느낌은 인간을 불행에 빠뜨려요. 좌절과 불만, 불안과 공허의 원천이 되죠.

“여기저기 돌아다니는 주의를 스스로 되찾아 오는 능력이 없다면, 누구도 자기 자신의 주인이 될 수 없다.”

“시간 여행은 무척 자연스럽게 이루어진다. 스트레스를 받으면 우리의 주의력은 어떤 기억을 통해 과거로 끌려가고, 그 기억 속에서 반추의 고리에 갇힌다.”_23p

가장 강력하지만, 가장 취약한 주의력
게다가 우리는 부카VUCA 시대에 살고 있어요. 불안정하고Volatility, 불확실하고Uncertainty, 복잡하고Complexity, 모호한Ambiguity 삶의 상황을 견뎌야 하죠. 한마디로 스트레스로 가득한 환경이에요. 이럴 때 좋은 삶을 살려면, 주의력이 필요합니다.

“삶의 스트레스를 피할 수 없는 불확실한 시대 속에서 목표를 이루고, 우리가 되고 싶은 사람이 되고, 우리가 원하는 방식대로 다른 사람과 우리 자신을 이끌어가기 위해 그 어느 때보다 주의력이 절실하다.”_29p

주의력은 통제하는 게 아니다

“주의력은 뇌 활동의 편향을 일으킨다. 주의력은 우리가 선택하는 정보를 상대적 우위로 만든다. 우리가 주의를 기울이는 대상이 무엇이든 간에 그 대상과 관련된 신경 활동이 더 활발해진다. 주의력은 문자 그대로 뇌 기능을 세포 단위에서 변화시킨다. 주의력은 진정한 초능력이다.”


주의를 빼앗기지 않으려면 스트레스를 줄이고, 기분을 잘 살펴야 합니다. ‘오늘 하루만 반값’ 같은 말에 속아 넘어가지 않으면 좋아요. 물론 쉬운 일은 아니죠. 주의를 망가뜨리는 요인들을 잘 알아채는 건 그냥 되지 않습니다.

“우리는 오랫동안 집중을 유지하려고 노력하면 주의력의 저항을 느끼기 시작하고, 나중엔 어떤 식으로든 집중이 흐트러진다.”_153p

다행히 우리는 훈련을 통해 뇌의 배선 상태를 바꿀 수 있습니다. 명상 같은 걸 통해서요. “명상은 특정한 정신적 자질을 계발하기 위해 정해진 순서대로 연습하는 행위”_103p예요. 수천 년간 인류는 철학과 종교, 독서 등의 영역에서 명상 같은 마음의 근력 운동을 해왔어요.

아미시 교수는 이를 마음챙김mindfulness이라 부릅니다. 주의력 훈련을 위한 최상의 수단이라고 강조하죠. 마음챙김은 일종의 정신적 갑옷입니다. “스트레스나 압박감이 심한 상황에서도 주의력이라는 귀한 자원을 보호하고 그 자원을 언제든 사용할 수 있는 상태로 유지”_24p하게 하죠.

“주의력은 중요한 것을 강조하는 동시에 집중을 방해하는 요소를 약화해 우리가 깊이 생각하고, 문제를 해결하고, 계획을 세우고, 우선순위를 정하고 혁신을 하도록 이끈다.”_42p


“더 많은 일을 하려면, 한 번에 한 가지 일만 하세요. 멀티태스킹을 하지 마세요. 과제 전환은 속도를 떨어뜨립니다. 미래를 위해 가장 좋은 계획을 세우려면 여러 개의 시나리오를 가지고 시뮬레이션만 해서는 안 됩니다. 현재를 관찰하고, 현재의 순간에 머물면서 더 나은 아이디어를 수집하세요.”_296p

철학자 에리히 프롬의 말이 떠오르네요. “우리는 늘 분주하지만 집중하지 못한다. 아침을 먹으면서 라디오를 듣고 신문을 읽으며, 그 와중에 아내와 아이들과 대화를 나눈다. 다섯 가지 일을 동시에 하지만 그 어떤 일도 제대로 하지 않는다.” 프롬은 이를 자기 삶을 사랑할 줄 모르는 사람의 대표적인 예로 들었어요.

뇌의 기본 상태는 산만함이고, 필사적으로 애써야 집중할 수 있습니다. 주의력은 우리 마음의 특수한 상태예요.

“우리는 머릿속으로 다음번에 일어날 일을 계획하고 상상하느라 너무나 많은 시간을 사용하기에 현재의 삶을 완전히 놓친다.”_217p

우리는 끝없는 생각에 중독돼 있어요. 현재를 있는 그대로 관찰하고 생각하는 대신, 항상 전략을 짜고 계획을 세우며 살죠. 그러면 지금 이 자리에서 인생을 돌아보며, 의미를 따질 때만 알 수 있는 걸 놓치기 쉬워요.

이를 위해 저자는 ‘하루 12분’을 말해요. 매일 적어도 12분 이상 마음을 돌이켜 챙기면 주의의 질이 높아질 수 있다는 겁니다. 또 우리 행동과 목표가 어긋나지 않게 돼 삶을 더 바람직한 쪽으로 이끌어갈 수 있죠.

아름다운 노을을 천천히 음미하는 일도, 행복한 추억을 세세히 더듬는 일도, 빛나는 앞날을 자유롭게 떠올리는 일도 모두 주의력 덕분에 가능해요. 인생은 한 번뿐이고, 주의력은 저장되지 않아요. 그 순간이 지나면 끝이죠. 주의를 기울이지 않고 산만히 흘려보낸 인생은 돌아오지 않아요. 흐르는 물에 발을 두 번 다시 담글 수 없는 것과 같죠.
I think this is mostly right.
- LLMs created a whole new layer of abstraction and profession.
- I've so far called this role "Prompt Engineer" but agree it is misleading. It's not just prompting alone, there's a lot of glue code/infra around it. Maybe "AI Engineer" is ~usable, though it takes something a bit too specific and makes it a bit too broad.
- ML people train algorithms/networks, usually from scratch, usually at lower capability.
- LLM training is becoming sufficently different from ML because of its systems-heavy workloads, and is also splitting off into a new kind of role, focused on very large scale training of transformers on supercomputers.
- In numbers, there's probably going to be significantly more AI Engineers than there are ML engineers / LLM engineers.
- One can be quite successful in this role without ever training anything.
- I don't fully follow the Software 1.0/2.0 framing. Software 3.0 (imo ~prompting LLMs) is amusing because prompts are human-designed "code", but in English, and interpreted by an LLM (itself now a Software 2.0 artifact). AI Engineers simultaneously program in all 3 paradigms. It's a bit 😵‍💫

https://twitter.com/karpathy/status/1674873002314563584
[어떻게 AI를 사용해서 10배 좋은 제품을 만들 수 있을까?_Github Copilot]

Copilot을 사용하시는 분들 있으신가요? GitHub Copilot은 GitHub와 OpenAI에서 개발한 AI coding assistance인데요. 제 주변에 Copilot을 한번 사용하신 분들은 대부분 꾸준히 사용하시면서 만족하시더라고요.
내가 작성하는 코드 베이스의 맥락을 자세히 이해하고 실시간으로 적합한 정보를 추천하는 것이 Copilot이 가진 가장 큰 장점이라고 생각하는데요. 이런 기능들은 어떻게 지원할 수 있을까요? AI가 알아서 다 추천해주는 걸까요?
최근에 Parth Thakkar이 쓴 Copilot Internals을 읽고 새롭게 배운 내용과 제 생각 한 스푼을 공유합니다.
Copilot이 내가 작성하는 코드에 맥락을 이해하고 실시간으로 답을 주는 데에는 크게 3가지 비법 소스가 존재합니다.

비법 소스 1: 프롬프트 엔지니어링
- 클라이언트가 프롬프트를 보내면(코드를 작성하면), 코드와 관련된 맥락(접두사[코드 위치, 관련 코드/파일의 스니펫], 접미사(생성된 코드가 들어갈 장소에 대한 맥락), PromptElementRanges(프롬프트가 잘 작동하기 위한 기본 정보들)을 AI Model(Codex)에 보냅니다.

비법 소스 2: 모델 호출(Model Invocation)
- Copilot은 인라인/고스트텍스트 그리고 Copilot패널 두가지 채널을 통해서 AI모델을 호출합니다.
- GitHub Copilot의 인라인/고스트텍스트 인터페이스는 제안 속도를 높이고, 반복적인 모델 호출을 줄이고, 사용자의 입력에 따라 제안을 조정하며, 빠른 입력을 처리하기 위해 디바운싱 메커니즘을 사용합니다. 반면, 코파일럿 패널은 더 많은 샘플을 요청하고, 로그 프로브를 사용하여 솔루션을 정렬합니다. 두 인터페이스 모두는 도움이 되지 않는 완료를 방지하기 위해 검사를 수행합니다.

비법 소스 3: 원격 측정 (Telemetry)
- GitHub Copilot는 원격 측정을 통해 사용자 상호작용을 학습하고 제품을 개선합니다. 이는 제안의 수락이나 거부, 코드에 남아 있는 수락된 제안의 지속성, 제안 수락 후 30초 이내에 캡처된 코드 스니펫 등을 포함하며, 사용자는 개인 정보 보호를 위해 이러한 데이터 수집을 거부할 수 있습니다.


AI를 사용해서 고객에게 10배 좋은 제품을 만드는 창업자로서 무엇을 배울 수 있을까요?
- 고객에게 가치를 전달하기 위해서는 모델 그자체로 충분하지 않습니다. 고객의 문제를 해결하기 위해 모델을 잘 이해하고, 이를 잘 사용할 수 있는 Engineering 역량과 빠른 Iteration이 중요합니다.
- 아직, LLM 혹은 AI를 사용해서 좋은 제품을 만드는 방법이 잘 알려지지 않았고 누구도 답을 알고 있다고 말하기 어렵습니다. 따라서, AI를 잘 이해하면서도 고객의 문제를 해결하기 위해서 AI 모델과 다양한 엔지니어링을 결합하려는 스타트업에게 기회가 있습니다.

더 자세한 내용을 보고 싶다면 아래 링크를 참고해주세요. https://bit.ly/copilotinternal


혹시, Engineering 경험과 지식이 뛰어난 분이나 AI 모델에 대한 이해가 높으신 분들 중에서 고객에게 10배 좋은 가치를 만들어내는 데에 관심있는 분이 있으시다면 DM 혹은 minseok.kim0129@gmail.com으로 어떤 문제를 해결해오셨고 앞으로는 어떤 문제를 해결하고 싶으신지 편하게 알려주셔요 🙏

요즘 AI 서비스들을 사용하면서 PC, 인터넷, 모바일 초창기와 비슷하게 어떤 서비스가 유저에게 가치있을지 몰라서 뭐든 해볼 수 있는시기라고 생각합니다. 마치 모바일 초창기에는 LBS(Location Based Service)라는 개념이 있었지만 지금은 대부분 모바일 서비스에서 GPS를 아주 기본적으로 제공하는 것처럼요.

결국 유저의 변하지 않는 니즈를 발견하고 빠르게 변화하는 기술을 잘 활용해서 10배 좋은 서비스를 지속적으로 만들 수 있는 팀이 좋은 제품 그리고 좋은 회사를 만들 수 있다고 믿습니다.
https://youtu.be/ajkAbLe-0Uk

Major Takeaways:

Product Differentiation: Perplexity AI focuses on providing accurate and trustworthy search results with citations, thereby positioning itself as a superior alternative to AI models like ChatGPT and Bart in terms of search accuracy. They differentiate themselves further by leveraging reasoning engines in combination with a well-ranked index of relevant content to generate quick and accurate answers.

Technology Utilization and Development: Perplexity AI's strategy relies on utilizing well-established AI models such as ChatGPT and Bart, but also developing their own models to address specific aspects of their product. This allows them to create a competitive and unique search experience. Moreover, the company orchestrates various components in their backend to ensure they work together efficiently and reliably.

Business Model and Advertising: The company considers advertising within a chat interface, which could provide relevant and targeted ads based on user profiles and queries, as a promising potential business model. The need for transparency and ethical advertising practices is emphasized.

AI Integration: The future vision for Perplexity AI involves the seamless integration of language models into everyday devices, which will enable natural conversations and immediate responses. The speaker acknowledges the existing limitations but expresses confidence in the continual advancements of the technology.

Data Quality and Training: The quality of training data is highlighted as a key factor in achieving higher levels of reasoning and intelligence in AI models. This is seen as a factor contributing to the lead of OpenAI in the AI market.

Open-source vs. Closed Models: The speaker discusses the implications of open-source models and closed models like Google and OpenAI, noting that the progress in the field depends on algorithmic efficiencies and talented researchers. The dynamics of this will be influenced by whether organizations continue to publish their techniques or opt to stay closed.

Lessons for AI Startup Founders:

Differentiation is Key: In a competitive field, providing a unique value proposition is crucial. This might involve creating more accurate or trustworthy results, or delivering them in a more efficient manner.

Leverage and Develop Technology: While it's beneficial to leverage established AI models, developing your own models to address specific aspects of your product can create a competitive edge.

Backend Efficiency: The success of your startup doesn't only rely on the end product but also how well the backend processes and components are orchestrated.

Ethical Business Practices: In implementing advertising or other monetization methods, maintaining transparency and ethical practices is essential to avoid the risk of alienating users.

Quality of Training Data: As an AI startup, the quality of your training data is paramount. Efforts should be made to curate high-quality data to achieve superior models.

Open Source vs. Closed Debate: The choice between operating with open-source models or closed ones can have implications on your company's future. Founders should consider the pros and cons of each, taking into account factors such as collaboration, progress speed, and knowledge sharing.
Japan uses Chat GPt quite alot.
Based on the available data, the usage of ChatGPT in the selected countries is as follows:

1. United States: The United States accounts for 15.32% of the total audience using ChatGPT
2. India: India accounts for 6.32% of the total audience using ChatGPT.
3. Japan: Japan accounts for 3.97% of the total audience using ChatGPT.
4. Canada: Canada accounts for 2.74% of the total audience using ChatGPT.
5. Other countries: The rest of the world accounts for 68.36% of visits to ChatGPT's website.
Coming AI event in sf
💁‍♂️ How to Play Long Term Games:

Systems > Goals
Discipline > Motivation
Trust > Distrust
Principles > Tactics
Writing > Reading
Vulnerability > Confidence
North Stars > Low Hanging Fruit
Trends > News
Habits > Sprints
Questions > Answers
Problems > Solutions
People > Projects
AI가 게임의 제작부터 게임의 UI/UX까지 많은 부분을 변화시켜놓을 거라고 생각합니다.

지난 몇년간 AI 모델은 엄청난 속도로 변화해왔는데요. 가장 최신의 AI 모델의 발전 역사와 앞으로 예상되는 AI 연구주제를 바탕으로 미래의 게임을 상상해봅니다.

Stable Diffusion 모델이 빠르게 혁신하면서, 게임 아트와 관련해서 다양한 실험이 이루어지고 있습니다. 게임 아트를 기획하고 개발하는 과정에서 AI를 잘 사용한 프로세스는 뭘까요?

이 두가지 질문에 대해서 궁금증이 생기셨다면 아래 구글폼을 작성해주세요 🙂

https://forms.gle/RFJjwqELL9juekP66
What era do we live in?

A wide range of AI tasks that used to take 5 years and a research team to accomplish in 2013, now just require API docs and a spare afternoon in 2023.

Not a single PhD in sight. When it comes to shipping AI products, you want engineers, not researchers.

Microsoft, Google, Meta, and the large Foundation Model labs have cornered scarce research talent to essentially deliver “AI Research as a Service” APIs. You can’t hire them, but you can rent them — if you have software engineers on the other end who know how to work with them. There are ~5000 LLM researchers in the world, but ~50m software engineers. Supply constraints dictate that an “in-between” class of AI Engineers will rise to meet demand.

Fire, ready, aim. Instead of requiring data scientists/ML engineers do a laborious data collection exercise before training a single domain specific model that is then put into production, a product manager/software engineer can prompt an LLM, and build/validate a product idea, before getting specific data to finetune.

Let’s say there are 100-1000x more of the latter than the former, and the “fire, ready, aim” workflow of prompted LLM prototypes lets you move 10-100x faster than traditional ML. So AI Engineers will be able to validate AI products say 1,000-10,000x cheaper. It’s Waterfall vs Agile, all over again. AI is Agile.
새로운 것이 등장하면 그 누구도 전문가가 될 수 없는 시기가 있습니다. 그저 관심 있는 사람들만 관심을 갖고 가지고 놀며 서로 이야기할 뿐입니다. 하지만 결국에는 그 일이 성숙해지고 그 창이 닫힙니다. 진입 장벽이 훨씬 높아진 후에는요.

당신은 AI로 전환하기 위해 너무 늙지 않았습니다.

https://www.latent.space/p/not-old
AI x Design: https://www.figma.com/blog/ai-the-next-chapter-in-design/

혹시 Design 쪽 커리어를 가져가고 있는 분들중 실력과 관심 두가지가 다 있는 지인 분들이 있으실까요?~ ㅎㅎ
5명정도만 모여도 재밌는 이야기 많이 할 수 있을 것 같은데요!