https://news.hada.io/topic?id=9726

기술 산업에서는 새로운 도구와 가젯에 집착하는 경향이 있음
그러나 진정한 숙련과 성공은 도구에만 의존하는 대신 기술과 마인드를 개발하는 데서 나옴
전문가들은 도구의 유무와 상관없이 자신의 기술을 연마하고 기본에 집중하는 중요성을 이해함
이소룡 : "나는 1만가지의 발차기를 1번씩 연습한 사람은 두렵지 않고, 하나의 발차기를 1만번 연습한 사람이 두렵다"
프로와 아마추어를 구분하는 것은 기본 원리에 대한 깊은 이해와 의도적이고 일관된 연습을 통해 얻은 전문지식임
새로움에 대한 매력에 저항하고 대신 영원한 원리와 숙련의 추구에 집중하는 것이 중요
인공지능은 이 숙련의 추구를 더욱 중요하게 만들 수 있음
최신 트렌드를 쫓는 대신 진정으로 자신의 기술을 연마하고 중요한 일을 하는지 스스로에게 물어볼 것
유행에 따르는 사람이 되지 말고 어려운 일에 도전하는 것을 받아들이세요

역시 구글의 Med-PaLM 정도 되면 네이처에 실리는군요.

제목: Large language models encode clinical knowledge

요약
대규모 언어 모델(LLM)은 인상적인 기능을 입증해 왔지만 임상 적용에 대한 기준은 높습니다. 모델의 임상 지식을 평가하려는 시도는 일반적으로 제한된 벤치마크에 기반한 자동화된 평가에 의존합니다. 여기에서는 이러한 한계를 해결하기 위해 전문 의학, 연구 및 소비자 질문에 걸친 6개의 기존 의료 질문 답변 데이터세트와 온라인에서 검색된 새로운 의료 질문 데이터세트인 HealthSearchQA를 결합한 벤치마크인 MultiMedQA를 소개합니다. 사실성, 이해도, 추론, 피해 가능성, 편견 등 여러 축에 따라 모델 답변에 대한 인적 평가 프레임워크를 제안합니다. 또한 5,400억 개의 파라미터로 구성된 언어 모델1(PaLM)과 그 명령어 튜닝 변형인 Flan-PaLM2를 MultiMedQA에서 평가합니다. Flan-PaLM은 여러 가지 프롬프트 전략을 조합하여 모든 MultiMedQA 객관식 데이터 세트(MedQA3, MedMCQA4, PubMedQA5 및 대규모 다중 작업 언어 이해(MMLU) 임상 주제 측정6)에 대해 최첨단 정확도를 달성하며, 특히 MedQA(미국 의사 면허 시험 스타일 문제)의 정확도는 67.6%로 이전 기술을 17% 이상 능가합니다. 하지만 사람이 직접 평가하면 몇 가지 부족한 점이 드러납니다. 이 문제를 해결하기 위해 몇 가지 예시를 사용하여 LLM을 새로운 영역에 맞게 조정하는 매개변수 효율적인 접근 방식인 명령어 프롬프트 튜닝을 도입했습니다. 그 결과 Med-PaLM이라는 모델이 고무적인 성과를 보였지만 임상의에 비해서는 여전히 열등합니다. 모델 규모와 지시 프롬프트 튜닝을 통해 이해력, 지식 회상 및 추론 능력이 향상되어 의학에서 LLM의 잠재적 유용성을 시사합니다. 인간 평가는 오늘날 모델의 한계를 드러내며 임상 적용을 위한 안전하고 유용한 LLM을 만드는 데 있어 평가 프레임워크와 방법 개발이 모두 중요하다는 점을 강조합니다.

링크: https://www.nature.com/articles/s41586-023-06291-2

파트타임 공동 창업자란 없어요. 다만 기회를 엿보는 부업 알바생이 있을 뿐이어요.

6개월 후에 합류할 것이라는 말은, 1) 일단 6개월 후에 지켜질지 알 수 없고 2) 초기스타트업에게 있어서는 6개월은 강산이 바뀌는 변화가 큰 기간인데, 그때 우리 회사는 더 이상 그 사람이 필요치 않을 수도 있고, 더 좋은 사람이 이미 낮은 스톡옵션으로 그 포지션을 채울 수도 있어요.

그래서 그때(6개월 후) 관점으로 그 사람을 평가할 때는 이제 더 이상 필요 없을 수도 있어요.

6개월 후에 합류할 것이라고 말 한다면, 선불로 지분을 약속하지 말고, 그때 가서 이미 합류한 다른 직원들과 비교해서 당신의 가치를 평가해서 지분을 정하자고 말해야해요. 그때까지는 본업에서 돈벌며 부업하는 알바생일 뿐이어요.

회사 지분은 모든 걸 걸고 '풀타임'으로 회사에 몰입하는 사람에게, 합류하는 시점에 배당하는 것이 원칙이어요. 아니면 돈을 내는 사람/기관이거나.

#권도균 #스타트업경영 #경영수업 #창업의시작 #돈보다경영 #투자 #데모데이 #프라이머 #엑셀러레이터 #primer #accelerator

실패에 대한 관점

"한 번뿐인 삶에서 완벽함은 '어리석은 망상'이다. (그러니 서툴더라도 인생을) 즐겨라"

- 밀란 쿤데라

1. 세상에 풀어야 할 문제는 많다. 하지만 당신이 스타트업을 한다면, 특히 B2B 스타트업을 한다면 긴급한 고객의 문제를 풀어라. 고객 입장에서 신생 스타트업의 제품을 구입하는 것은 수술 처음하는 아기 의사가 '너 나한테 수술 받을래?'하는 것과 같다. 정말 긴급하고 절박해야 스타트업의 제품을 사서 쓴다.

2. 고객 인터뷰 중에 모든 고객의 소리를 듣지 말고 중요한 Teaching customer를 잘 정의하고 좁혀나가는 게 중요하다. 그를 위한 제품을 만들고 그들을 조직 내에서 슈퍼스타로 만들어줘라.

3. 기업가는 실패를 통해 배우고 성장한다. 하지만 성장하고 성공한다고 실패를 안 겪지 않는다. 여전히 실패는 계속된다.

https://youtu.be/NKFZTuk_ylY

2003년 이후 설립된 미국의 기업 중 매출 10억 달러 이상인 64개 상장 기업.

https://nbt.substack.com/p/the-billion-dollar-revenue-club

In this new Machine Learning era dominated by LLMs, knowledge Distillation is going to be at the forefront of LLMOps. For widespread adoption and further development of generative ML, we first need to make those models more manageable to deploy and fine-tune.

Just to put some numbers on how unmanageable it can be, SOTA models these days have about ~500B parameters and that represents at least ~1TB of GPU memory to operate with specialized infrastructure. That's a minimum of ~$60,000 - $100,000 per year per deployed model just for inference servers. And that doesn't include fine-tuning nor typical elastic load balancing costs for reliability best practices. Not impossible, but somewhat a high barrier to entry for most businesses.

I always felt that knowledge distillation was a silent hero in this era of transformer-type language models. There are tons of distilled BERT-like models on HuggingFace for example. The concept behind distillation is actually pretty simple. Let's assume you have a large pre-trained model. In the context of LLMs, it could be pre-trained with self-supervised learning and fine-tuned in a RLHF fashion for example. Your pre-trained model now becomes the all-knowing teacher for a smaller student model. If we call the teacher model T and the student model S, we want to learn the parameters for S such that

T(x) = y_t ~ y_s = S(x)

For some data x, we want the predictions y_t and y_s by T and S to be as close to each other. To train a student model, we simply pass the training data through the teacher and student and update the student's parameters by minimizing the loss function l(y_t, y_s) and back-propagating its gradient. Typically we use cross-entropy for the loss function. To train the student model, think about typical supervised learning where the training data is the same or similar to the teacher's training data, but the ground truth label for the student model is the output prediction of the teacher model. You can read more about it in this survey: https://arxiv.org/pdf/2006.05525.pdf.

With the advent of prompt engineering, we now understand better how to extract the right piece of knowledge from LLMs. Techniques like Chain-of-Thought (CoT) greatly improved LLMs performance on few-shot learning tasks. The guys at Google just published an article (https://arxiv.org/pdf/2305.02301.pdf) utilizing CoT to improve the distillation process. The idea is to have the student LLM predicting the rationales for the predictions alongside the predictions and minimizing a loss function between the teacher rationale and the student rationale. Basically by forcing the LLM to explain its predictions, they were able to beat all the distillation SOTA. For example, they outperformed a 540B parameters PaLM model with a 770M parameters T5 model after distillation! I think this paper will have a huge impact in the coming year!

----
Find more similar content in my newsletter: https://TheAiEdge.io
Next ML engineering Masterclass starting July 29th: https://MasterClass.TheAiEdge.io
#machinelearning #datascience #artificialintelligence

https://huyenchip.com/list-100/

Interesting to do lists.

https://huyenchip.com/2023/04/11/llm-engineering.html

Building LLM applications for production

Unleashing LLMs in Production: Challenges & Opportunities. Chip Huyen, Amjad Masad & Michele Catasta

https://www.youtube.com/watch?v=ByhMpN2iSbc

GPT-4 Hackathon Code Results

https://docs.google.com/spreadsheets/d/1tmfn8jKb7T1x7PpyO7rD023tH2zc_WDg_OHh0aVXIrw/edit#gid=174517450

Langchain Gen Mo Hackathon

https://docs.google.com/spreadsheets/d/1GqwPo1FpAbe_awmNZW5ZMH69yc5QtEr7ZYw-ckaz_mQ/edit#gid=795016726

Vector Injection 이라는 이야기를 듣는데, 사람의 사고를 치료하는 심리 치료 혹은 뇌수술이 생각나네요…

https://youtu.be/ByhMpN2iSbc?t=1556

신경망의 맥락에서 벡터 삽입은 계산 중에 피드포워드 신경망의 특정 레이어에 벡터를 삽입하는 프로세스를 말합니다. 이 기술은 모델에 추가 정보나 제약 조건을 통합하여 잠재적으로 성능을 향상시키거나 더 복잡한 관계를 학습할 수 있도록 하는 데 사용할 수 있습니다. 피드포워드 신경망은 입력 노드에서 숨겨진 레이어를 거쳐 출력 노드로 정보가 주기나 루프 없이 한 방향으로 흐르는 인공 신경망의 한 유형입니다.

경우에 따라 이 피드포워드 프로세스의 중간에 벡터를 주입하여 네트워크의 동작에 영향을 미치거나 외부 지식을 통합하는 것이 유용할 수 있습니다.
피드포워드 프로세스 중간에 벡터를 주입하는 방법에는 여러 가지가 있습니다. 한 가지 방법은 네트워크의 특정 레이어의 가중치나 편향성을 직접 수정하여 네트워크의 내부 표현을 효과적으로 변경하는 것입니다. 또 다른 접근 방식은 주입된 벡터를 입력으로 받아 이전 레이어의 출력과 결합한 후 그 결과를 다음 레이어로 전달하는 레이어를 네트워크에 추가하는 것입니다.

신경망에 벡터를 주입하는 것은 도메인별 지식을 통합하거나 특정 제약 조건을 적용하거나 네트워크의 일반화 기능을 개선하는 등 다양한 애플리케이션에 유용할 수 있습니다. 그러나 네트워크의 성능에 부정적인 영향을 미치거나 의도하지 않은 부작용이 발생하지 않도록 벡터 주입 프로세스를 신중하게 설계하는 것이 중요합니다.

자연의 섭리는 묘하게도 비슷하네요. 근친교배가 유전학적으로 열성발현 등이 나타나 위험한 것처럼, 합성 데이터만으로 자체 순환 학습하는 것은 자기 포식 장애(Model Autophagy Disorder)에 빠질 수 있다고 하네요. 합성데이터 활용시에 고려해야 할 중요한 점이 또하나 등장한 것 같습니다.

특히 조만간 합성 데이터가 인터넷을 뒤덮으며, 그것을 다시 학습데이터 사용하고 거기서 다시 데이터를 생산해서 사용하는 루프가 생길 경우에도 이런 자기 포식 장애가 발생할 위험이 생길 수 있다는게 우려스럽네요.

제목: Self-Consuming Generative Models Go MAD

이 논문은 제너레이티브 AI 알고리즘에서 자가포식(자체 소비) 루프 현상을 탐구하고 합성 데이터를 사용하여 차세대 모델을 훈련시키는 영향을 분석합니다. 저자는 각 세대에 충분한 양의 새로운 실제 데이터가 없으면 미래 생성 모델의 품질 또는 다양성이 점진적으로 악화되는 모델 자가포식 장애(MAD)라는 조건을 발견했습니다.

주요 통찰 및 교훈:
- 제너레이티브 AI 알고리즘은 훈련 모델을 위한 데이터 합성에서 상당한 발전을 이루었습니다.
- 반복되는 훈련 과정에서 합성 데이터를 사용하면 특성을 제대로 이해하지 못하는 자가 포식 루프가 생성됩니다.
- 이 연구는 고정 또는 새로운 실제 교육 데이터의 가용성과 이전 세대 모델의 편향이 다른 세 가지 유형의 autophagous 루프에 중점을 둡니다.
- 각 세대의 불충분한 신선한 실제 데이터는 미래 생성 모델의 정밀도 또는 리콜의 감소로 이어집니다.
- 모델 자가포식 장애(MAD)는 부적절한 실제 데이터로 인해 생성 모델의 품질 또는 다양성이 점진적으로 감소하는 상태를 설명합니다.

요약:
이미지, 텍스트 및 기타 데이터 유형에 대한 생성 AI 알고리즘이 비약적으로 발전함에 따라 합성 데이터를 사용하여 차세대 모델을 훈련하려는 유혹이 커지고 있습니다. 이 과정을 반복하면 속성을 제대로 이해하지 못하는 자가포식(자가 소비) 루프가 생성됩니다. 유니티는 여러 세대의 학습을 통해 사용할 수 있는 고정된 실제 학습 데이터의 양이나 새로운 실제 학습 데이터의 양, 이전 세대 모델의 샘플이 데이터 품질과 다양성의 균형을 맞추기 위해 편향되었는지 여부가 다른 세 가지 오토파지 루프의 최첨단 생성 이미지 모델을 사용하여 철저한 분석 및 경험적 분석을 수행했습니다. 모든 시나리오에서 얻은 주요 결론은 오토파지 루프의 각 세대에 새로운 실제 데이터가 충분하지 않으면 향후 생성되는 모델의 품질(정확도)이나 다양성(리콜)이 점진적으로 감소할 수밖에 없다는 것입니다. 이러한 상태를 광우병에 비유하여 모델 자기포식 장애(MAD)라고 부릅니다.

arXiv: https://arxiv.org/abs/2307.01850
PDF: https://arxiv.org/pdf/2307.01850.pdf
arXiv-vanity: https://www.arxiv-vanity.com/papers/2307.01850
Paper page: https://huggingface.co/papers/2307.01850
Papers with code: https://paperswithcode.com/paper/self-consuming-generative-models-go-mad