NEW BOT Телеграм, страница

Forwarded from 요즘AI

빌 게이츠가 AI가 가져올 우려들에 대해 인정하고, 이에 대한 생각을 적은 글을 가져왔습니다.

먼 미래의 초지능적 AI가 가져올 잠재적 위험보다는 이미 존재하거나 곧 존재하게 될 위험에 초점을 맞추어 작성한 글이니, 읽어보면 좋은 인사이트가 될 것 같습니다.
(원문 의역글)

1/ AI로 생성한 딥페이크나 잘못된 정보는 선거를 포함한 민주주의를 훼손할 수 있습니다.

1-1/ 기술이 거짓을 퍼뜨리는 데 활용되는 것이 처음은 아니지만, AI를 활용하면 더욱 쉽고 정교하게 조작할 수 있습니다.

보이스 피싱에 가짜 오디오 및 비디오를 사용하거나, 조작된 정치적 이슈를 만들어 선거를 뒤흔드는 데 쉽게 활용될 수 있습니다.

1-2/ 하지만 AI는 딥페이크의 생성뿐만 아니라 식별에도 큰 도움을 줄 수 있으며, 사람들은 비슷한 유형의 조작에 대한 누적된 경험을 통해 이를 식별하는 방법을 학습해왔습니다.

이는 조작을 탐지하고 대응책을 개발하는 순환적인 과정이 될 것이며, 이러한 위험에 충분히 대응할 수 있을 것입니다.

2/ 개인과 정부에 대한 공격이 더 쉬워질 수 있습니다.

2-1/ AI는 해커가 더 효과적인 코드를 작성할 수 있도록 도움으로써 개인이나 기관에 대한 공격을 가속화할 수 있습니다. 그들은 새로운 범죄 도구를 만드는 것을 멈추지 않을 것입니다.

2-2/ 이것이 AI 규제안을 원인 삼아 AI 발전을 일시적으로 막으려 해서는 안 되는 이유입니다. 악용을 막기 위한 노력도 같은 속도로 계속 진행되어야 하기 때문입니다.

2-3/ AI를 통한 군비 경쟁이라는 글로벌 차원의 위험도 존재합니다. 이를 방지하기 위해서 국제 핵 비확산을 위한 국제원자력기구와 유사한 AI 글로벌 기구를 설립하는 것을 고려해야 합니다.

3/ 사람들의 일자리를 빼앗을 것입니다.

3-1/ 이에 대해서, AI는 사람들이 업무를 더 효율적으로 수행할 수 있도록 돕는 역할을 할 것입니다.

AI는 단기적으로 업무의 생산성을 높이며 이는 사회적으로도 좋은 일입니다.

3-2/ 또한 환자를 돌보거나, 노인을 부양하는 등의 사람을 돕는 일에 대한 수요는 결코 사라지지 않을 것입니다.

3-3/ 분명한 것은, AI의 영향력은 PC의 도입만큼 거대할 것입니다.

즉 AI 기반의 업무 환경으로 전환하는 과정에서 여러 차원의 지원과 재교육이 필요할 것이며, 이는 정부와 기업의 역할이 클 것입니다.

4/ AI는 인류의 편견에 기반하여 무언가를 만들어냅니다.

4-1/ 사용자 요청의 맥락을 이해하지 못하여 환각(hallucination)을 만들어내거나, 특정 성 정체성이나 인종 등을 가진 사람들에 대한 편견을 반영하고 이를 악화시킬 수 있습니다.

4-2/ 이는 트랜스포머 방식을 기반으로 작동하는 AI 모델에서 많이 나타나며, 사용자 질문의 맥락이 아닌 학습된 데이터를 기반으로 답변하기 때문에 발생하는 문제입니다.

4-3/ 즉 AI 모델은 학습된 텍스트에 어떤 편견이 숨어져 있든 이를 그대로 이어받습니다.

예를 들어 의사에 대한 텍스트를 학습할 때 주로 남성 의사가 언급되어 있다면 대부분의 의사는 남성이라고 가정하여 답변합니다.

4-4/ 하지만 일부 연구자들의 주장과는 달리, 환각과 같은 문제가 모델의 본질적인 문제라고 생각하지 않습니다.

시간이 지나면 AI 모델이 사실과 허구를 구분할 수 있게 될 것이라고 생각하며, 이미 OpenAI는 이 분야에서 유망한 연구를 진행하고 있습니다.

4-5/ 또한 다양한 배경을 가진 사람들이 모델을 설계하거나, 인간의 가치와 더 높은 수준의 추론 능력을 AI에 구축하여 편향성을 해결할 수 있습니다.

AI를 사용하는 사람들도 자신의 편견뿐만 아니라 AI의 편견을 인식하고 활용해야 합니다.

5/ 학생들이 글쓰기를 배우지 않습니다.

이는 1970-80년대에 전자계산기가 처음 보급되던 시기의 걱정과 유사합니다.

5-1/ 일부 수학 교사들은 학생이 기본적인 산수를 배우지 않을까 걱정했지만, 다른 교사들은 새로운 기술을 받아들이고 산수에 필요한 사고력을 키우는 데 집중했습니다.

즉 새로운 기술을 배우고 활용하는 교사들은 많은 이점을 얻을 수 있을 것이라고 생각합니다.

5-2/ 또한 진실과 거짓을 구별하는 방법을 아는 것보다 더 중요한 기술은 거의 없습니다.

즉 환각과 편견을 가진 AI가 작성한 글에 대해 진위 여부를 확인하도록 하여 비판적 사고에 도움을 줄 수 있습니다.

5-3/ 더욱이 해결해야 할 문제는, AI 기반의 교육용 소프트웨어가 학생 간 성취도 격차를 줄일 수 있도록 하는 것입니다. 즉 모든 유형의 학생들이 AI 혜택을 누리도록 해야 합니다.

이미 동기 부여가 된 학생의 역량을 강화하는 것은 간단하지만, 아직 동기 부여가 되지 않은 학생을 교육에 끌어들이는 방법은 아직 모르기 때문입니다.

6/ AI의 위험을 관리하면서 동시에 혜택을 극대화할 수 있다는 낙관적인 전망을 하지 않을 이유가 없습니다.

6-1/ 위험을 관리할 수 있다고 믿는 가장 큰 이유는 이전에 해본 적이 있기 때문입니다. 즉 역사적 선례가 있으며, 과거로부터 배울 수 있습니다.

6-2/ AI로 인해 발생하는 많은 문제들은 동일하게 AI를 통해 해결할 수 있습니다.

이를 위해 새로운 기술에 대응할 수 있는 법과 규정을 만들어 인류에게 득이 되는 방향으로 움직여야 합니다.

[요즘AI comment]
어떤 것이든 특정한 이슈로 인해 평형 상태가 깨지게 되면 그 과정에서 나타나는 수많은 변화들이 있고, 빌 게이츠가 언급한 문제들도 그 과정에서 나타날 수밖에 없는 당연한 것이라고 생각합니다.

중요한 것은 이러한 좋지 않은 변화들을 인류는 계속해서 해결해 왔고, 이 해결의 힘은 변화의 과정에서 부당한 이익을 챙기려는 소수가 그것을 막으려는 다수의 힘을 넘어설 수 없다는 것에서 나오지 않았을까 합니다.

빌 게이츠 글이라 살짝 언급드리면, 지금은 절판된 ‘미래로 가는 길’이라는 빌 게이츠의 책을 추천드립니다. 90년대 초반에 PC시대와 그 이후를 예측한 글인데, 그 통찰력이 대단합니다. 책을 읽고 난 후 빌 게이츠의 블로그 글들을 보신다면 왜 빌 게이츠가 AI 시대를 이렇게 기대하는지 조금은 이해할 수 있지 않을까 합니다.

긴 글 읽어주셔서 감사합니다. 다음 번에도 좋은 글로 찾아뵙겠습니다 :)

NAVER

The risks of AI are real but manageable - 빌 게이츠

빌 게이츠가 AI가 가져올 우려들에 대해 인정하고, 이에 대한 생각을 적은 글을 가져왔습니다.

64 views01:56