ExplainPrompt

ExplainPrompt는 최근 연구 논문의 대규모 언어 모델 프롬프트에 대한 자세한 안내를 제공합니다.

http://explainprompt.com/

다음은 해외의 생성 AI 활용 교육 사례입니다.

"방금 웨이브메이커 글로벌과 함께 가장 큰 AI 프로젝트를 마쳤습니다. 그들은 3개월 전에 저를 고용하여 일러스트레이터와 디자이너에게 워크플로에 AI를 추가하는 방법을 가르쳤습니다. 3개월 만에 그들의 에이전시(유럽에서 가장 큰 에이전시 중 하나)를 위한 신속한 가이드를 만들었습니다. 저는 AI가 일자리를 빼앗는 것이 아니라 현명한 기업들이 직원(대부분 아티스트)에게 이 기술을 활용하는 방법을 교육하는 데 돈을 쓰는 것을 직접 목격했습니다. AI를 시작했을 때 아티스트와 크리에이터로서의 직업을 유지하려면 AI를 배워야 한다는 것을 알았습니다."

"처음 시작할 때는 다른 사람을 가르치겠다는 생각은 하지 않았고, 단지 일자리에 영향을 미칠 것이라는 것을 알았기 때문에 살아남고 싶었습니다."

"이 프로젝트는 모든 면에서 훌륭했습니다. 웨이브메이커의 로고는 주황색 원으로, AI를 통해 다양한 환경과 위치에 배치할 수 있었습니다. 여전히 많은 부분이 일러스트레이터의 작업과 다듬기가 필요했습니다. 이제 그들은 이 기술을 사용할 수 있게 되었고 저는 프로젝트에 작별 인사를 할 수 있게 되었습니다. 제가 함께 일한 팀 중 최고의 팀 중 하나였습니다. 매주 회의를 하면서 새로운 기술을 배우던 크리에이터들의 눈빛을 보며 신기해하던 모습이 그리울 것 같습니다."

출처 https://twitter.com/icreatelife/status/1678394452157530113?s=46&t=h5Byg6Wosg8MJb4pbPSDow

Profiles of the Future

Open AI 내부에서 작년 11월 즈음 아서 클라크의 "Profiles of the Future"를 DALL-E 2로 커버 디자인을 해서 비치해 뒀나 봅니다.

유명한 '클라크의 삼법칙',

1. 어떤 노년의 과학자가 무엇이 가능하리라고 한다면 그것은 거의 확실히 맞다. 그러나 그가 무엇이 불가능하리라고 한다면 틀릴 가능성이 높다.

2. 가능성의 한계를 발견하는 유일한 방법은 불가능할 때까지 시도해 보는 방법밖에 없다.

3. 충분히 발달한 기술은 마법과 구분할 수 없다.

중 1번과 2번이 1962년에 에세이 모음집인 이 책의 2장 Hazards of prophecy : The Failure of Imagination( 예언의 위험: 상상력의 실패 )에 있었고, 1973년의 개정판에야 3번 "충분히 발달한 기술은 마법과 구분할 수 없다"이 등장했다고 합니다.

https://en.wikipedia.org/wiki/Clarke%27s_three_laws

저도 클라크의 삼법칙만 알았지 이 책을 읽어보지 못했는데요. 이제라도 살펴봐야겠네요.

OpenAI 블로그의 대표 이미지를 만드는 Ruby Chen이 누굴까 찾아보다가 작업 사이트를 알게 됐는데, 거기에 언급이 있는걸 김성완님이 발견해서 좀 더 체크해 봤습니다.

Ruby Chen: https://rubywjchen.com

* Ruby Chen은 "Original novel by Arthur C. Clarke repackaged for limited internal publication at OpenAI. Cover artwork is co-created with DALL·E 2, a text-to-image AI system." 이라고 썼는데, 에세이 모음집이지 소설로 보긴 어렵거든요. (혹시 모음집 속에 소설인 챕터가 있었을까요?) 어쩌면 책 표지만 디자인하고 내용은 살펴보지 않았을지도요.

* GPT-4의 소개:
----
"Profiles of the Future: An Inquiry into the Limits of the Possible"는 아서 C. 클라크가 저술한 책입니다. 이 책은 원래 1962년에 출간되었으나, 클라크는 그 후에도 여러 차례에 걸쳐 책을 업데이트하였습니다.

이 책의 주요 주제는 가능한 미래 기술에 대한 탐구이며, 과학 기술이 어떻게 발전할 것인지에 대한 예측과 관찰을 포함합니다. 클라크는 이 책에서 "매우 확실하게 알고 있는" 것부터 "절대로 불가능한" 것에 이르기까지 다양한 미래의 가능성을 논의하며, 그의 예측은 종종 놀랍도록 정확하게 드러났습니다.

그는 향후 우리가 기대할 수 있는 일부 기술적 발전을 상세하게 설명하였고, 이에는 통신 위성, 개인용 컴퓨터, 인터넷, 그리고 다른 혁신적인 기술들이 포함됩니다. 이 외에도 클라크는 과학과 기술의 발전이 인류에게 어떤 영향을 미칠지에 대해 심도있게 탐구하였습니다.

클라크의 또 다른 중요한 주장 중 하나는 그의 유명한 "클라크의 세 가지 법칙"이 책에서 제시된 것입니다. 이 중 가장 유명한 법칙은 "충분히 발전된 기술은 마법과 구별할 수 없다"는 내용의 세 번째 법칙입니다.

요약하자면, "Profiles of the Future"는 미래의 과학과 기술 발전에 대한 통찰적인 예측과 고찰을 제공하는 책입니다. 이 책을 통해 클라크의 뛰어난 상상력과 미래에 대한 통찰력을 볼 수 있습니다.
----

1945: 우리가 생각하는 대로 (배니바 부시)
1960: 인간-컴퓨터 공생 (J. C. R. 리클라이더)
1962: 스케치패드 - 인간-기계 그래피컬 커뮤니케이션 시스템 (아이반 서덜랜드)
1962: 미래의 프로파일 (아서 클라크)
1968: 모든 데모의 어머니 (더글러스 엥겔바트)

순으로 제가 염두에 두는 타임라인에 1962년을 업데이트해 둬야 겠습니다.

1, 2 챕터인 "예언의 위험", "신경의 실패"와 "상상력의 실패"는 꼭 읽어봐야겠습니다.

* 2011년 가디언의 Profiles of the Future 리뷰: https://www.theguardian.com/science/2011/mar/04/profiles-future-arthur-clarke-review

* 관련 글 - 배니바 부시의 "우리가 생각하는 대로" (2023. 2. 26.): https://www.facebook.com/seungjoon.choi/posts/pfbid02keT8ujX2z4NtgpscPCFPb5Jkh8GT8GwE6WEeVNNJr4pDD4u4CYA312dARMhrERuyl

* 관련 글 - 리클라이더의 "인간-컴퓨터 공생" (2023. 2. 26.): https://www.facebook.com/seungjoon.choi/posts/pfbid02ZGiKPRAWhmDiZLTEnUFHaukLL9XTcPMoUnV5krHKpzfHoB6fAyiKXkSGFuFuLkQxl

* 관련 글 - 피터 노빅의 "우리가 프로그램하는 대로" (2023. 3. 20.): https://www.facebook.com/seungjoon.choi/posts/pfbid02VfgfGGxmxu96Dvj8DjXedBxK5Yygnf7YNZFrzxAUbb5Ps39USBWuoqV35wQPFD1Dl

Embracing discomfort can lead to personal growth. Over time, challenges not only heal past wounds, but also foster development. Reflecting on Nietzsche's words, 'what does not kill me makes me stronger,' it seems life's hardships aren't inherently painful. Instead, they build resilience and strength. Ultimately, the essence of life is in overcoming adversities to discover our purpose. This journey, though challenging, is essential to human experience and growth.

Domain specific use case of AI. Agriculture.

https://www.reddit.com/r/Damnthatsinteresting/comments/14sifgp/zero_chemcials_ai_based_laser_based_pesticide_and/?utm_source=share&utm_medium=ios_app&utm_name=ioscss&utm_content=1&utm_term=1

The machine in the video is a "LaserWeeder" sold by Carbon Robotics.

Their website does not mention pest control . Only weed control.

"Laserweeding is precision weed control for commercial farming... kills weeds at the meristem before they compete for precious resources."

https://carbonrobotics.com/

A Survey of Large Language Models

LLM에 대한 조사 논문으로 최근 업데이트되었습니다. 600개 이상의 참조 자료, LLM 컬렉션, 유용한 프롬프트 팁, 기능 평가, GitHub 레포 등이 포함되어 있습니다. (https://twitter.com/omarsar0/status/1678419456895197185)

논문 [https://arxiv.org/abs/2303.18223](https://t.co/Tq2hBKUtNt)
깃허브 https://github.com/RUCAIBox/LLMSurvey

[현기증 나는 환율 흐름.. 왜 이런 상황이 나타나는 걸까]
https://outstanding.kr/wondollar20230711

1. 장마가 끝나면 본격 휴가철이 시작됩니다. 해외여행을 할 때 가장 중요한 것은 환전이죠. 그런데 요즘 달러원 환율이 심상치 않습니다.

2. 지난해 11월에는 달러당 1450원 가까이 뛰었다가 올해 초에는 1220원까지 내렸다가 다시 1330원까지 치솟고 1270원을 때린 다음에 지금은 1300원 수준에 머물러 있죠. 상하방의 방향성이 나타나는 것이 아니라 위아래로 요동을 치는, 이른바 변동성이 높은 시기입니다.

3. 왜 이런 상황이 나타나는지를 생각해 보죠. 미국의 강한 성장과 금리 인상 기대는 달러 강세, 즉 환율 상승을 가리킵니다. 반면 무역 적자의 늪에서 벗어나 흑자로의 전환은 원화 강세, 즉 환율 하락을 가리키죠.

4. 물론 이런 흐름이 미래에 계속 이어질지는 아무도 모를 겁니다. 만약 미국 금리가 예상보다 강하게 오른다면 환율은 보다 위로 튈 수 있겠죠. 반면 한국의 무역 흑자 기조가 보다 강해진다면? 환율은 밑을 바라볼 수 있을 겁니다.

5. 성장세가 강했던 미국이 갑자기 경기 침체 논란에 휩싸인다면? 이렇게 되면 달러 약세, 즉 환율의 하락을 볼 수 있겠죠. 복잡하시죠? 네. 우리가 복잡하게 느끼는 것만큼 시장도 하루하루의 뉴스에 현기증을 느끼게 될 겁니다.

웹 개발자를 위한 50가지 이상의 ChatGPT 프롬프트 [번역]

ChatGPT를 사용하여 웹 개발 워크플로우의 속도를 높이는 데 도움이 되는 50가지 이상의 프롬프트와 전략
코드 생성/완성/변환/설명/리뷰/리팩터
버그 감지 및 수정
시스템 설계 및 아키텍처
검색 엔진 최적화(SEO)
모의 데이터 생성
테스트, 문서, 쉘 명령어, 정규 표현식, 콘텐츠
이력서 및 자기소개서, 면접 준비, 배움

Sung Kim 대표님 페북
#gpt-code-interpreter-opensource GPT Code Interpreter는 기본적으로 여러분들이 하고 싶은 일을 말하면, GPT가 코드를 생성하고 이 코드를 (주어진 데이터가 있다면) 생성하고 결과를 보여주는 것입니다. 그래서 점점 프로그래머가 할수 있는 많은 일을 할수 있을 것입니다.
Code Interpreter의 OpenSource 버전을 소개합니다. 이름이 GPT-Code 인데 GPT로 코드를 짜고 이를 Jupyter Kernel에서 실행을 시키고, Flask UI로 보여주는 것입니다.
정말 멋진 프로젝트 입니다.
https://github.com/ricklamers/gpt-code-ui
코드 인터프리터 Access 안주니까 본인이 만든 것 같네요 ㅋㅋㅋㅋ

스스로 브랜딩 좀 할 줄 안다고 생각했고, 어느 순간부터는 아무렇게나 행동해도 도에 어긋나지 않는 70세의 공자처럼 지냈는데 미국 와서 정말 주눅 들 정도로 퍼스널브랜딩을 잘하는 사람이 많아 내가 정말 깝치고 다녔구나 하는 며칠 동안 했다.

내가 생각하는 퍼스널브랜딩은 1. 미션을 세우고 2. 그대로 행하며 3. 성과로 증명하고 4. 과정을 소통하며 5. 계속 성장하며 6. 미션 주변의 필요한 일들도 사회 구성원으로써 해내며 7. 특정한 맥락 속에서 사람들이 나를 인식하고 친구가 되게 하는 것이다. 이런 걸 하면서 컨셉이니 키워드니 컬러니 이런 건 하면 좋지만 안 해도 좋고 이런 식이다. 브랜드가 브랜드인 이유는 브랜딩을 잘해서도 있지만, 브랜드 되지 못하는 것들이 그만큼 많아서도 있다.

미국에서 활동하는 내 또래 CEO 인터뷰하는 사람들이나 미디어를 잘 활용하는 CEO들을 보면 1. (인류를 대상으로 하는 원대한) 미션을 세우고 2. (범지구적인 스케일로) 그대로 행하며 3. (곱하기 10~100쯤 되는) 성과로 증명하고 4. 과정을 그대로 소통하는데 모든 디테일한 부분에서 자신의 뾰족한 생각과 통찰을 드러낼 줄 알고 5. 프로패셔널하게 새로운 소식들을 이어나가며 6. 공동체에 필요한 담론에 적극적으로 참여하며 7. 그 사람의 맥락 속에서 그 사람을 소비하게 만들고, 브랜드 네이밍부터 슬로건, 문장 하나하나가 브랜드답다.

이런 차이를 만드는 건 언어, 세상을 보는 시야, 패권국 마인드 등등이 있는 거 같다.

좀 겸손할 필요가 있다고 생각하고 뭔가 대단한 성취를 하기 전까지는 책도 쓰지 말고 그냥 성과나 잘 내자, 그냥 뭐 회사에 해가 되는 게 아닌 선에서, 좋은 얘기 힘든 얘기 재미난 놀이터라고 생각하고 SNS에 올리자 정도로 생각하고 살았는데 글로벌에서는 절대 이렇게 활동하면 안 되겠다는 생각이다. 마이너리티 아이덴티티를 버리고 미션을 더 내세우고 강력하고 규모있게 꾸준히 실행하고 증명하는 것이 필요하다.

좋은 자극제고 해낸다면 얼마나 나중에 나눌 수 있는 얘기들이 많아질까 싶다.

태용님

AI가 괴물이 될 거다 라는 모두의 공포감 속에서 영지식 증명(ZK)을 활용한 어떤 AI 연산의 검산 내지 신뢰성을 검증할 수 있는 도구로서 ZKML에 대해 관심을 가지고 기말고사가 끝나고 시간이 날 때마다 조금씩 살펴봤다. 특히 지난 번 샘 알트만의 방한 때 OpenAI 엔지니어와 5분 정도 대화를 나눌 기회가 있었는데 OpenAI도 내부적으로 ZKML 연구를 하고 있다고 한다.

샘 알트만의 월드코인이 ZKML을 최소한 마케팅 용어로나마 표방하고 있으니 당연할 지도 모른다. 하지만 ZKML의 실무적 도입에 대해서는 아직까지 시기상조라는 생각이 들었고 계속 리서치가 필요하다는 의견을 갖게 되었다(나는 문과에서 전과한 수학과 학부생이니까 계속 공부할 기회가 있을 것이다. 사실 지난 주말에는 또 한국통계학회에서 진행하는 수리통계 석사생 대상 강의를 듣고 이게 뭐지 한 걸 보면 난 호기심 부자가 맞다.)

ZKML 라이브러리로는 EZKL이 가장 유명한데 나의 질문 공세에 매우 빠르면서도 친절하게 대답해주어 감명 받았고 정말 고마운 마음이다. Halo2를 사용하는 EZKL 라이브러리의 목적은 인공지능 모델의 출력이 특정 입력에 대해 정확하게 계산되었음을 증명하는 것이고, 일반적으로 블록체인에서 주장하는 “상호 무신뢰 상태에서의 신뢰 부여” 에 부합하는 유즈케이스라고 생각했다.

일반적으로 머신러닝에서 숨기고자 하는 것은 모델의 가중치와 파라미터이므로 모델의 전체 정보를 포함하는 ONNX 파일은 숨겨져야 한다.

내가 파악한 EZKL의 구동 원리는 대략적으로 다음과 같다:

1. 모델 생성: 증명자(prover)는 머신러닝 모델을 생성하고, 이 모델의 가중치와 파라미터를 알게 된다.

2. 해시 생성: 증명자는 이 가중치와 파라미터를 해시 함수에 입력하여 결과 해시 값을 얻고 해시 함수는 원래의 정보를 완전히 복구할 수 없도록 변환하는 일방향 함수이므로 주어진 해시 값만으로는 원래의 가중치와 파라미터를 알아낼 수 없다.

3. 프리 커밋: 증명자는 이 해시 값을 사전 커밋값으로 사용하고 커밋값은 후에 검증 과정에서 사용되며, 증명자는 이 해시 값을 검증자에게 보낸다.

4. 증명 생성: 증명자는 이 모델을 사용하여 작업을 수행하고, 그 결과에 대한 증명을 생성한다. 이 증명에는 해시 값을 사용하여 생성한 모델 파라미터의 해시 값이 포함된다.

5. 증명 검증: 검증자(verifier)는 증명자로부터 받은 증명을 검증한다. 검증자는 증명 내의 해시 값과 증명자로부터 사전에 받은 해시 값이 일치하는지 확인한다. 두 해시 값이 일치한다면, 검증자는 증명자가 작업을 수행할 때 약속한 모델의 가중치와 파라미터를 사용했다고 확신할 수 있다.

이 과정을 통해, 증명자는 실제 가중치와 파라미터를 공개하지 않고도, 이들이 정상적으로 사용되었다는 것을 검증자에게 증명할 수 있는 것이 목표다. 그래서 이는 ONNX 파일 자체를 공개하지 않고도 모델의 신뢰성을 검증하는 방법으로 사용될 수 있다고 한다.

하지만, 허점이 하나 있다. ONNX 파일이라는 모델 형식을 사용하여, EZKL 라이브러리가 신뢰할 수 있는 검증 키(verifying key)와 증명 키(proving key)를 생성한다는 것이다. ONNX 파일은 모델의 구조뿐만 아니라 가중치와 같은 모델의 파라미터를 포함하고 있으므로, ONNX 파일을 소유하고 있는 개체가 해당 모델의 기밀 정보를 접근하고 조작할 수 있다는 의미이다. 그렇다고 투명성을 위해 ONNX 파일을 공개하자니 이건 기업 기밀 유출 내지 과도한 정보 공개이다.

그렇기 때문에, 검증 키와 증명 키를 생성하는 과정에서 ONNX 파일을 보유하고 있는 생성자를 믿어야 하는 문제가 생기게 된다. 따라서 genesis setup에서는 모델 개발자에게 trust를 현실적으로 부여해야 한다는 이야기다. 모델의 개발자가 그 파일을 적절하게 보호하고, 파일이 정확한 파라미터와 함께 올바르게 생성되었다는 것을 보장할 수 있어야 함을 의미하는데 이는 암호학이 궁극적으로 달성하고자 하는 “완전한 무신뢰 상태” 목표 달성에 실패한다.

물론, 이러한 문제를 해결하기 위한 가능한 방법은 다자간 계산(MPC)을 이용해 ONNX 파일을 공동으로 생성하는 것이지만, 이는 현실적으로는 복잡한 프로토콜을 요구하며, 아직까지는 엔터프라이즈 환경에서 실용적이지 않다.

따라서 이러한 문제들은 EZKL 라이브러리가 single-point of failure가 존재하는 현재 아키텍처 상 기업 수준의 생산 환경에서 현재 구조 하에서 실질적으로 적용될 수 있는지에 대한 의문을 가지게 된다. (물론 zk-SNARKs 환경에서 부동소수점 계산이 제대로 되지 않아 tolerance를 일부 상쇄해줘야 한다는 단점도 있지만 이는 차치하도록 하자)

하지만 온디바이스 ML에 대해서는 유용하게 사용될 수도 있겠다. 만약 애플이 구동하는 어떤 온디바이스 신용평가 ML 모델이 있다고 한다면 애플이 가지고 있는 모델과 아이폰에서 구동하는 ML 모델은 동일할 것이므로 아이폰과 애플 사이에는 ML 모델은 public으로 두고 아이폰에서 제공하는 데이터는 private으로 두어 최종적으로 애플에 ML 모델을 돌린 결과값인 신용평가 정보(이 아이폰 사용자는 신용 등급이 A등급입니다)를 제출하고 그 모델을 맞게 돌렸다고 하는, 즉 중간에서 위변조가 이루어지지 않았다는 proof를 함께 제출하면 애플은 사용자의 민감 정보를 수집하지 않고도 모델의 결과값을 신뢰할 수 있을 것이다.

그리고 한 가지 더.. 실질적으로 ZK의 구동은 서버에서 proof를 생성하고 클라이언트에서 wasm으로 bind된 verify 바이너리를 call하여 증명의 참 거짓 여부를 알게 될 것이다. verify 바이너리의 checksum만 봐도 내가 사용하는 라이브러리의 신뢰성을 부여할 수 있다. 다시 말해, 특수하게 신뢰공증을 제공해야 할 경우를 제외하고는 굳이 블록체인에 검증 연산을 실행할 필요가 보이지는 않는다.

Sigurd

https://www.forbes.com/sites/alexkonrad/2023/07/10/flexport-founder-ryan-petersen-joins-founders-fund/

I believe entrepreneurs who did zero to one, could find next entrepreneurs better as there wore the similar shoes with them.

Being a contrarian. https://markets.businessinsider.com/news/stocks/howard-marks-oaktree-contrarian-investing-stock-market-timing-cycles-psychology-2023-7?utm_source=facebook&utm_campaign=markets-sf&utm_medium=social&fbclid=IwAR0VLENyCj7CsZ7LQC7gAKmERORTJaX7qrmX6dPpje8CrrFe6Mw4-tkAYAc_aem_AbfE17TxcVeMlLywh5wOjngbsTE5BvF1gY9p8lPvFodi1FUDs26QakF4yjcgn61tpHk&mibextid=Zxz2cZ

Wow… 소리로 이렇게 많은 감정을 느끼할 수 있었구나.

https://youtu.be/ENw5glZYiVY

We just published my interview with Slow Ventures GP (and former VP Product Facebook) Sam Lessin. A contrarian in the best sense, Sam was a pleasure to talk with.

A few highlights:

👽 Lessons from science fiction. Science fiction has often served as inspiration for technologists. For Sam Lessin, it’s the genre’s similarities with investing that are perhaps most interesting. Though leveraging very different mediums, both science fiction worldbuilders and venture investors advance a thesis for what the world might become.

📊 The merits of metrics. For many years of his career, Sam considered metrics limiting. He believed that focusing too closely on certain figures “over-constrained” a problem, thwarting the ability to address its fundamentals. He has changed his opinion. Rather than a restriction, Sam now sees metrics as an opportunity for agency. Once given a certain number to focus on, team members are empowered to handle the matter as they deem best.

🤥 Delusion and honesty. By definition, founders are deluded – at least in Sam’s view. To change the world, disrupt incumbents, and remake industries, productive insanity is required. Founders have to balance that wild ambition with internal honesty. For Sam, the ideal entrepreneur understands how to balance being “strategically crazy” with deep introspection.

🧠 AI hype. As Silicon Valley rushes to capitalize AI startups, Sam is largely sitting back. Though he finds the technology compelling, the long-time VC sees it as a poor place to invest. Sam expects the value of this technology to primarily accrue to large, established players, with few new startups breaking through.

🏆 Winning big. Sam has logged remarkable successes in his investing career, backing companies like Slack, Robinhood, Airtable, Nextdoor, and Solana. Sam doesn’t see himself as a true investing craftsman despite his wins. In his view, the best investors are not only directionally correct but bold enough to double and triple down. That’s how you can hit a $10 billion return on even a single exceptional bet.

https://lnkd.in/gP2zhSSu