아침부터 굿뉴스가 왔습니다. 구글 AI Week에 맞춰 온것같기도 한데요. Google Workspace에서 AI기능을 사용하게 된다고 합니다. 아주 재미있을것 같습니다.
--
오늘부터 사용 가능한 Workspace Labs의 특징들
[Google Docs에서 AI와 함께 글을 써보세요]
Google Docs에서는 인공지능을 이용해 여러분의 질문에 따른 텍스트를 제안해드립니다. 예를 들어 "Help me write (Labs)"라는 질문을 통해 블로그 포스트를 작성하거나 노래 가사를 쓰는 것이 가능하며, 이미 존재하는 텍스트를 더 상세하게 혹은 간결하게 재작성하는 것도 가능합니다.
[Gmail에서 빠르게 이메일을 작성하거나 개선해보세요]
Gmail에서는 인공지능을 이용해 여러분의 질문에 따른 이메일을 작성할 수 있습니다. "Help me write (Labs)" 버튼을 Gmail에서 선택하고 질문을 입력해 직장에 보낼 커버레터나 친구들에게 보낼 생일 초대장을 작성하거나, 초안을 더 상세하게 혹은 간결하게 수정하는 것도 가능합니다.
[Google Slides에서 AI로 이미지를 생성해보세요]
Google Slides에서는 인공지능을 이용해 여러분의 질문에 따른 이미지를 생성할 수 있습니다. 예를 들어, "Help me visualize" 버튼을 선택하고 질문을 입력해 피크닉이나 추상화 그림 등의 이미지를 생성하는 것이 가능합니다.
[Google Sheets에서 AI를 활용해 정리해보세요]
Google Sheets에서는 인공지능을 이용해 여러분의 질문에 따른 표를 제안해드립니다. 예를 들어 "Help me organize (Workspace Labs)" 기능을 이용해 여행 계획이나 작업 트래커를 작성하는 것이 가능합니다.

semianalysis.com/p/gpt-4-architecture-infrastructure?utm_campaign=post&utm_medium=web


OpenAI’s most durable moat is that they have the most real-world usage, leading engineering talent, and can continue to race ahead of others with future models.

The most interesting aspect of GPT-4 is understanding why they made certain architectural decisions.

Agree

OpenAI 창립 멤버 중 한 명인 안드레아 카르파티(Andrej karpathy)가 ‘왜 혁신적 AI에 도달하기 어려운가’라는 아티클을 리트윗했습니다.

AI 진보의 최전선에 있는 그가 다소 보수적인 입장의 아티클을 공유한 것인데, 함께 고민해볼 만한 논거들을 정리해봤습니다.

원본 번역글
—

0/ 일부 AI 옹호론자들은 AI 혁신으로 인해 세계 GDP 성장률이 역사적으로 단 한 번도 넘지 못했던 3%를 넘을 수 있을 것이라고 주장합니다.

물론 혁신의 과정 자체를 자동화할 수 있다면 충분히 가능한 미래지만, 이를 위해서 넘어야 할 과제들이 굉장히 많습니다.

1/ 가장 어려운 문제는 ‘세상은 항상 불균형하게 발전한다는 것’입니다.

일례로 과거의 제조업, 최근의 IT산업은 도구 및 장비의 기술 혁신으로 인해 큰 생산성의 향상을 경험했습니다. 반면, 노동 집약적이거나 인간의 상호작용이 필요한 의료, 교육 등의 공공 부문 직업은 기술의 영향을 크게 받지 못했습니다.

1-1/ 이러한 불균형은 ‘보몰 효과(Baumol effect)*’를 야기할 수 있으며, 이로 인해 생산성이 크게 증가한 직업의 성장률마저 상쇄될 수 있습니다.

*보몰 효과 : 노동 생산성이 크게 증가한 직업의 임금 상승에 반응하여, 생산성이 상대적으로 덜 증가한 직업의 임금도 고용 경쟁에 의해 상승하는 현상. (관련 링크)

1-2/ 결국 AI가 모든 영역을 자동화할 수 있어야 의미있는 수준의 경제 성장이 가능해질 것입니다.

2/ 그렇다면 현재 AI 기술의 발전만으로 모든 산업을 효율화시킬 수 있을까요? 이것이 가능해지려면 다른 분야의 기술 발전도 함께 일어나야 합니다.

2-1/ 로봇 공학은 AI의 발전에 크게 뒤쳐져 있습니다. 벌레의 꿈틀거림은 굉장히 간단한 움직임이지만, 여전히 구현하기 힘든 영역입니다.

2-2/ 현재 대부분의 제조, 건설업은 하드웨어를 필요로 하는데(인력과 같은), 이러한 인력을 대체할 만한 로봇 기술이 발전하지 않는다면 AI 기술만으로는 성장이 크게 가속화되기에는 한계가 있을 수 있습니다.

2-3/ 하드웨어 최적화 또한 한계에 다다랐다는 연구 결과가 있습니다.

컴퓨팅 파워를 몇 배로 확장하려면 하드웨어 영역에 수천억 달러의 추가 지출이 필요합니다. 무어의 법칙이 멈추기 전에 혁신적 AI에 도달할 수 있을지가 주요 관건이 될 것 같습니다.

2-4/ 일각의 연구에서는 2026년에는 고품질의 언어 데이터가 고갈될 수 있다고 경고했습니다. 물론 합성 데이터와 같은 대안이 제시되고 있지만, 이는 근본적인 해결책이 아닙니다.

2-5/ 인간 피드백은 AI의 결과물을 더욱 유용하게 만들지만, 이로 인해 생산성의 향상은 제한될 수 있습니다.

2-6/ 그렇다고 인간 피드백을 제외하기도 어려운 상황입니다. 인간은 가치관에 따라 행동하려고 노력하기 때문에 가장 중요한 데이터는 사람들의 가치관에 대한 것, 즉 인간이 관여해야 하는 것이기 때문입니다.

2-7/ 데이터 문제를 해결하기 위해, 인간의 경험과 다른 감각(후각, 촉각과 같은) 데이터를 사용하는 것을 고려해볼 수 있겠지만, 아직 여기까지 기술이 발전하지 못했습니다.

3/ 기술적 장애물뿐만 아니라, 사회적, 경제적 장애물도 AI의 영향력을 제한할 수 있습니다.

3-1/ 사회적, 정치적 장벽으로 인해 기술의 도입이 늦어지거나 때로는 완전히 중단되기도 합니다.

일례로, 런던의 공영 지하철 기관사는 대체할 수 있는 기술이 수십 년 전부터 존재했음에도 불구하고 전국 평균의 두 배에 가까운 임금을 받고 있습니다.

3-2/ 또한 혁신적인 경제 성장을 이루기 위해선 자동화만으로는 충분하지 않습니다. OpenAI에서는 “약 19%의 직업은 업무의 50% 이상에 대해 GPT-4를 활용한 애플리케이션을 구축할 수 있다”고 추산했습니다.

3-3/ 반대로 말하면 GPT-4만으로는 완전 자동화에 근접하지 못한다는 의미이며, 신뢰성이 필수적인 영역 또한 AI의 기술적 한계로 당분간 영향을 받지 않을 것입니다. 이는 인류에 변혁적인 영향을 미치지 못하는 수준입니다.

—

안드레아 카르파티(Andrej karpathy)는 해당 글을 리트윗함으로써 혁신적 AI의 도래를 위해 준비할 것이 아직 굉장히 많음을 말하고 싶었던 것 같습니다.

즉 기술과 혁신 사이에는 수많은 난관과 사회적 합의점이 존재하며, 이러한 지점들이 논의되고 해결될 때 우리는 AI 기술이 가져다 준 ‘진정한 혜택’을 느낄 수 있을 것입니다.

위 글의 논거에 대해서는 다양한 의견이 존재할 것 같습니다. 일례로 요즘AI는 교육 및 의료 부문 또한 AI로 인해 엄청난 생산성 향상을 겪을 것이라고 예상하는데요. 다만 이를 위해서는 여러 사회적, 제도적 합의가 필요하다는 것에도 동의합니다.

즉 기술의 발전이 혁신을 만드는 것은 분명하지만, 혁신의 크기를 결정하는 데에는 여러 차원의 합의가 거쳐질 수 밖에 없습니다. 구독자분들도 AI가 가져올 미래를 생각하며 이런 다양한 논거에 대해 고민하는 시간을 가져보는 것도 좋을 것 같습니다.

추가적으로 기록된 데이터 뿐만 아니라 후각, 촉각, 직감 등의 암묵적 데이터가 AI 학습에 사용될 수도 있을 거라는 관점이 흥미로웠습니다.

친구와 나눈 카톡 대화가 단 몇 년 만에 학습에 필요한 데이터가 되었듯이, 앞으로는 또 어떤 데이터들이 중요해지고, 또 AI 학습에 활용될 것인지가 재밌는 관전 포인트가 될 것 같습니다.

긴 글 읽어주셔서 감사합니다 :)

KKR. 세계 최고의 사모펀드를 이끌고 있는 CEO 조셉 배의 인터뷰 번역입니다. 사람의 아우라와 에너지가 영상을 뚫고 나온다는 느낌은 이번 영상을 보고 처음 느낀 것 같습니다. 완벽히 정돈된 그의 톤과 어법에서 그가 얼마나 치밀한지를 보게 됩니다. 한국에 소개된 기사들도 아래에 함께 첨부합니다. 영상과 함께 읽어보시면 더 도움이 되시지 않을까 싶습니다.

영상 : https://youtu.be/iZ578Py8WLo
추가 기사 : http://news.einfomax.co.kr/news/articleView.html?idxno=4171066

https://news.hada.io/topic?id=9717
AI를 이용한 AWS 문서 검색 & 채팅 도구 오픈소스
Search
OpenAI Embeddings API 를 이용하여 AWS 문서에 대한 임베딩을 생성
사용자 검색어의 임베딩 생성후 관련된 콘텐츠를 찾아서 리턴
Chat
검색 결과를 이용해서 프롬프트를 생성하여 GTP-3.5-turbo로 채팅
OpenAI + PostgreSQL(pgvector)

https://appleinsider.com/articles/23/07/06/apple-is-inventing-a-revolutionary-car-audio-system-for-apple-car

애플이 차량내 오디오에 대한 5개의 새로운 특허를 신청
애플은 "Enclosed Environment" 라는 단어를 차에 대한 완곡표현으로 사용하기로 한듯
특허는 이 단어를 이용하면서 빌딩에도 적용 가능하다고 했지만 차량에도 가능
헤드레스트에 있는 스피커가, 운전자가 회전시에 고개를 돌리거나, 맥도날드 주문을 위해 창문쪽으로 내밀었을때에도 위치를 추적
자동차의 문에 붙어 있는 "Access-Feature-Mounted External Speaker" 관련 특허도 있음. 문이 열리거나 닫혔을때 어떻게 반응할지도 고민하는듯
Vision Pro 에서 얘기하는 Spatial Audio 도 적용하여, 한명이 아닌 여러명을 위한 Group Spatial Audio

https://news.hada.io/topic?id=9722

Threadds Android App (72.3MB)
유니버설 APK. Redex 사용
디버그 코드 포함되어 있음
일부는 React Native로 되어 있음 (Hermes)
UI는 Jetpack Compose를 많이 사용
인스타그램 앱과 많은 부분을 공유
Threads iOS App (244.2MB)
페이스북앱과 달리 동적 라이브러리가 전혀없음
굉장히 큰 플러그인이 있음. BarcelonaShareExtension이 81MB ( InstagramNotificationExtension 이 23.5MB, InstagramShareExtension이 5.6MB 인데 비해)
인스타그램의 FBSharedFramework 가 BarcelonaShareExtension 이랑 많은 부분을 공유
시작 시간 살펴보기
Sign-in 이 네이티브가 아니고 WebView(WKWebView)를 사용하고 있어서 느린것 같아 보임. 아님 백그라운드에서 뭔가 트래킹하거나
개발시간을 단축하기 위해 iOS/Android 모두 인스타그램 앱과 많은 부분을 공유한 것으로 보임. 그게 바뀌는것을 보는 것도 재미날듯

https://news.hada.io/topic?id=9723

왜 개발자를 AI로 대체하는게 어려운지에 대하여
많은 뉴스에서 AI가 개발자를 대체하게 될 거라고 얘기하지만, 소프트웨어 구축에 있어서 가장 어려운 부분은 코딩이 아니라 명확하고 정확한 요구사항을 만드는 것
"그거 버그 아니고 피쳐에요. 어, 잠시만 버그네요"
명확하지 않은 요구사항은 버그를 만들어냄
"AI가 개발자를 대체하려면, 클라이언트는 자신들이 원하는 것을 정확하게 설명해야함. 우린 안전해요"
AI의 현실: 체스 vs. 자율주행 자동차
AI는 체스와 같이 규칙이 한정되고 명확한 영역에서 성공적으로 활용되었음, 하지만 자율주행 자동차는 무한한 변수와 예외 상황으로 인해 AI에게 훨씬 더 복잡한 도전
기술분야에서는 9 다섯개 또는 6개의 Availability(가용성)가 표준임 (99.999% 에서 99.9999%)
99%에 도달하는 비용은 별로 들지 않음. 99%는 당신의 웹사이트가 1년에 3일 이하로 다운된다는 것을 의미함(87.6시간)
하지만 9가 하나 붙을때 마다 거기에 도달하는 비용은 기하급수적으로 증가함
99.9999%가 되려면 1년에 31.5초만 다운되어야 함(99.9%는 526분/8.76시간, 99.99%는 52분, 99.999%는 5.2분)
이를 위해서는 엄청난 계획가 노력이 들어가고, 물론 비쌈
AI가 아무리 좋아진다 한들, 항상 사고의 위험성이 있음
어느 정도의 사고를 허용할지 모르겠는데, 적어도 사람만큼은 되어야함
AI는 소프트웨어를 만들 수 없고, 코드만 만들 수 있음
소프트웨어를 만들고 유지하는 것은 체스보다 운전과 더 공통점이 많음
수많은 변수들이 있고, 규칙은 판단에 의해 결정됨
소프트웨어를 만들 때 원하는 결과가 있겠지만, 그게 체스처럼 단순하지 않음
소프트웨어는 완료 라는 게 거의 없음. 계속 기능이 추가되고 버그가 수정되는 지속적인 Exercise임
소프트웨어와 달리 체스 게임은 일단 이기거나 지면 끝임
소프트웨어 개발에서 우리는 소프트웨어 디자인을 체스의 규칙 엔진처럼 만드는 도구를 가지고 있음: 기술 스펙
최상의 상태에서 이 기술 스펙은 사용자 행동과 프로그램의 흐름을 예측함
하지만, 이런 경우는 거의 없음. 우리는 너무 자주 Wishlist를 기능 스펙으로 받거나, 냅킨에 적은 와이어프레임이나 불분명한 요구사항 문서를 건내 받아서 우리가 최고의 판단을 내리게 만듦
설상가상으로 요구사항들은 변하고 무시되기도 함
불가능한 요구사항들. 원글에선 WIFI 없는데서 문자로 COVID 설문조사를 하는 프로젝트 사례를 얘기함. 안하는게 맞았음
AI가 과연 어런 대응이 가능할까 ?
AI가 기능적인 소프트웨어를 만드는게 가능하려면, 원하는 것을 제대로 알고 이를 명확하고 정확하게 정의할 수 있어야 함
지난 10년간 소프트웨어 산업은 워터폴에서 애자일 방식으로 전환했음
워터폴에선 이해관계자가 자신이 원하는 것을 알고 이를 문서화 할수 있다고 생각했지만, 최종 제품이 전달되었을때 매우 실망했기 때문에 실패했음
애자일은 이 프로세스에 대한 해결책임
AI는 우리가 이미 가지고 있는 소프트웨어를 최신 하드웨어어와 새로운 언어로 재작성하는데는 가장 적합할 수 있음
COBOL로 작성된 소프트웨어를 사용하는 곳은 아직 많지만, 그 언어를 배우는 사람은 거의 없으니까
AI가 이미 만들어진 소프트웨어는 사람보다 더 빠르게 만들수 있겠지만, 그것은 누군가가 이미 소프트웨어가 어떻게 만들어져야 할지를 고민했기 때문임
AI는 우리가 죽음의 행군이라고 부르는 폭포수 프로세스를 사용하면 소프트웨어를 꽤 잘 구축할 수 있음
폭포수에서 누가 끔찍할까? 바로 인간임
단지 프로그래머 팀에게 전달한 문서를 작성하는 부분만이 아니라, 그 이전의 모든 것임
AI가 몇가지 놀라운 일을 할 수는 있지만, 당신의 마음을 읽거나 당신이 원하는 것을 말해주지는 않음

https://news.hada.io/topic?id=9726

기술 산업에서는 새로운 도구와 가젯에 집착하는 경향이 있음
그러나 진정한 숙련과 성공은 도구에만 의존하는 대신 기술과 마인드를 개발하는 데서 나옴
전문가들은 도구의 유무와 상관없이 자신의 기술을 연마하고 기본에 집중하는 중요성을 이해함
이소룡 : "나는 1만가지의 발차기를 1번씩 연습한 사람은 두렵지 않고, 하나의 발차기를 1만번 연습한 사람이 두렵다"
프로와 아마추어를 구분하는 것은 기본 원리에 대한 깊은 이해와 의도적이고 일관된 연습을 통해 얻은 전문지식임
새로움에 대한 매력에 저항하고 대신 영원한 원리와 숙련의 추구에 집중하는 것이 중요
인공지능은 이 숙련의 추구를 더욱 중요하게 만들 수 있음
최신 트렌드를 쫓는 대신 진정으로 자신의 기술을 연마하고 중요한 일을 하는지 스스로에게 물어볼 것
유행에 따르는 사람이 되지 말고 어려운 일에 도전하는 것을 받아들이세요

역시 구글의 Med-PaLM 정도 되면 네이처에 실리는군요.

제목: Large language models encode clinical knowledge

요약
대규모 언어 모델(LLM)은 인상적인 기능을 입증해 왔지만 임상 적용에 대한 기준은 높습니다. 모델의 임상 지식을 평가하려는 시도는 일반적으로 제한된 벤치마크에 기반한 자동화된 평가에 의존합니다. 여기에서는 이러한 한계를 해결하기 위해 전문 의학, 연구 및 소비자 질문에 걸친 6개의 기존 의료 질문 답변 데이터세트와 온라인에서 검색된 새로운 의료 질문 데이터세트인 HealthSearchQA를 결합한 벤치마크인 MultiMedQA를 소개합니다. 사실성, 이해도, 추론, 피해 가능성, 편견 등 여러 축에 따라 모델 답변에 대한 인적 평가 프레임워크를 제안합니다. 또한 5,400억 개의 파라미터로 구성된 언어 모델1(PaLM)과 그 명령어 튜닝 변형인 Flan-PaLM2를 MultiMedQA에서 평가합니다. Flan-PaLM은 여러 가지 프롬프트 전략을 조합하여 모든 MultiMedQA 객관식 데이터 세트(MedQA3, MedMCQA4, PubMedQA5 및 대규모 다중 작업 언어 이해(MMLU) 임상 주제 측정6)에 대해 최첨단 정확도를 달성하며, 특히 MedQA(미국 의사 면허 시험 스타일 문제)의 정확도는 67.6%로 이전 기술을 17% 이상 능가합니다. 하지만 사람이 직접 평가하면 몇 가지 부족한 점이 드러납니다. 이 문제를 해결하기 위해 몇 가지 예시를 사용하여 LLM을 새로운 영역에 맞게 조정하는 매개변수 효율적인 접근 방식인 명령어 프롬프트 튜닝을 도입했습니다. 그 결과 Med-PaLM이라는 모델이 고무적인 성과를 보였지만 임상의에 비해서는 여전히 열등합니다. 모델 규모와 지시 프롬프트 튜닝을 통해 이해력, 지식 회상 및 추론 능력이 향상되어 의학에서 LLM의 잠재적 유용성을 시사합니다. 인간 평가는 오늘날 모델의 한계를 드러내며 임상 적용을 위한 안전하고 유용한 LLM을 만드는 데 있어 평가 프레임워크와 방법 개발이 모두 중요하다는 점을 강조합니다.

링크: https://www.nature.com/articles/s41586-023-06291-2

파트타임 공동 창업자란 없어요. 다만 기회를 엿보는 부업 알바생이 있을 뿐이어요.

6개월 후에 합류할 것이라는 말은, 1) 일단 6개월 후에 지켜질지 알 수 없고 2) 초기스타트업에게 있어서는 6개월은 강산이 바뀌는 변화가 큰 기간인데, 그때 우리 회사는 더 이상 그 사람이 필요치 않을 수도 있고, 더 좋은 사람이 이미 낮은 스톡옵션으로 그 포지션을 채울 수도 있어요.

그래서 그때(6개월 후) 관점으로 그 사람을 평가할 때는 이제 더 이상 필요 없을 수도 있어요.

6개월 후에 합류할 것이라고 말 한다면, 선불로 지분을 약속하지 말고, 그때 가서 이미 합류한 다른 직원들과 비교해서 당신의 가치를 평가해서 지분을 정하자고 말해야해요. 그때까지는 본업에서 돈벌며 부업하는 알바생일 뿐이어요.

회사 지분은 모든 걸 걸고 '풀타임'으로 회사에 몰입하는 사람에게, 합류하는 시점에 배당하는 것이 원칙이어요. 아니면 돈을 내는 사람/기관이거나.

#권도균 #스타트업경영 #경영수업 #창업의시작 #돈보다경영 #투자 #데모데이 #프라이머 #엑셀러레이터 #primer #accelerator

실패에 대한 관점

"한 번뿐인 삶에서 완벽함은 '어리석은 망상'이다. (그러니 서툴더라도 인생을) 즐겨라"

- 밀란 쿤데라

1. 세상에 풀어야 할 문제는 많다. 하지만 당신이 스타트업을 한다면, 특히 B2B 스타트업을 한다면 긴급한 고객의 문제를 풀어라. 고객 입장에서 신생 스타트업의 제품을 구입하는 것은 수술 처음하는 아기 의사가 '너 나한테 수술 받을래?'하는 것과 같다. 정말 긴급하고 절박해야 스타트업의 제품을 사서 쓴다.

2. 고객 인터뷰 중에 모든 고객의 소리를 듣지 말고 중요한 Teaching customer를 잘 정의하고 좁혀나가는 게 중요하다. 그를 위한 제품을 만들고 그들을 조직 내에서 슈퍼스타로 만들어줘라.

3. 기업가는 실패를 통해 배우고 성장한다. 하지만 성장하고 성공한다고 실패를 안 겪지 않는다. 여전히 실패는 계속된다.

https://youtu.be/NKFZTuk_ylY