서론

세상을 뒤바꿀 근본적인 변화가 시작됐으며, 미래가 어떻게 바뀔지 누구도 정확히 말할 수 없다는 사실

AI는 범용 기술(General Purpose Technology) 에 해당한다. 이는 한 세대에 한 번 개발될 법한 큰 발전으로, 산업과 삶의 모든 측면에 영향을 미친다. (ex. 증기 기관, 인터넷) 범용 기술은 단순히 업무적인 영역에 국한되지 않는다. 삶의 모든 측면에 영향을 미친다.

인간의 지각력과 창의력을 평가하는 시험에서 최고의 성적을 얻는 AI가 개발되었는데, 기이한 점은 우리가 이 시스템을 만들었고 기술적으로 어떻게 작동하는지 이해하고 있음에도, AI가 이 모든 일을 어떻게 해내는지 명확히 알 수 없다는 것이다.

1부

Alien mind

Attention is All You Need, 인간의 언어를 이해하고 처리하는 방식에 중대한 변화를 가져온 논문

• Transformer: 컴퓨터가 인간의 의사소통 방식을 더 잘 처리하도록 돕는 새로운 아키텍처
• Attention mechanism, AI가 텍스트에서 가장 관련성이 높은 부분에 집중하도록 하여 인간적인 방식으로 언어를 이해하고 처리할 수 있도록 놀라운 점은 그다음 차례에 나올 단어를 예측하는 데 불과한 토큰 예측 시스템이 어째서 이처럼 비범한 능력을 보여 주는지 아무도 완벽히 알지 못한다는 사실이다. 어쩌면 우리는 AI가 정확히 어떻게 사고하는지 절대 알아내지 못할 수도 있다.

AI가 어떤 일을 수행할 수 있는지, 그리고 인간이 생활하고 배우며 일하는 방식에 어떠한 변화를 몰고 올 것인지 실용적인 측면에 초점을 맞춰야 한다.

AI Asignment

머지않아 이 AI는 인간보다 똑똑한 인공지능, 초인공지능이 된다. 초인공지능이 발명되는 순간, 인간은 쓸모없는 존재가 된다. 초인공지능이 무슨 생각을 하는지, 어떻게 작동하는지, 목표가 무엇인지 인간은 결코 알아낼 수 없다. 초인공지능은 자신의 능력을 기하급수적으로 향상하며 계속 발전한다. 이제는 어떤 일이 벌어질지 말 그대로 상상할 수 없다. 이러한 AI가 나오는 시점을 ‘특이점’(지금 우리가 아는 것과 같은 인간사가 지속될 수 없는 미지의 미래, Singularity)이라고 부르는 이유도 여기에 있다. AI 분야에서 특이점은 초인공지능이 예상치 못한 동기를 품고 나타나는 시점이다.

공동지능이 되기 위한 네가지 원칙

• 어떻게 AI를 협력적인 공동지능으로 활용할 수 있을까?

1. AI와 늘 함께 한다.

• 작업할 때 항상 AI를 초대한다. 법적, 윤리적 문제가 없다면 모든 작업에 AI를 초대해서 도움을 받는다.
• 그저 도움을 받기 위해서만이 아니라, AI로 할 수 있는 일을 잘 알기 위해서이다. AI가 어떤 도움을 줄 수 있는지, 어떤 측면에서 우리에게 위협이 될 수 있는지를 더 잘 이해하게 된다.
• Jagged Frontier of AI 현상: AI의 능력으로 수행할 수 있는 과제들의 경계가 정확하지 않은 들쭉날쭉한 경계를 의미한다. 아이디어를 생각해 내는 것처럼 예상치 못한 작업은 LLM에 쉬운 반면, 기초 수학처럼 평범한 프로그램도 쉽게 처리할 수 있을 것 같은 작업은 제대로 수행하지 못한다. 즉, 요새의 성곽을 제대로 파악하려면 일일이 실험을 해 봐야 한다.
• AI가 빠르게 확산됨에 따라, AI의 미묘한 차이, 한계, 능력을 잘 이해하는 사용자는 AI의 혁신적 잠재력을 최대한 발휘할 수 있는 독보적인 위치에 서게 된다.
• AI를 업무에 유용하게 활용할 줄 아는 사람은 큰 영향력을 발휘할 것이다.
• AI의 이질적인 관점이 우리에게 도움이 될 수 있다. 이제는 인간의 의사 결정 능력을 새로운 방식으로 향상할 수 있는 시대가 됐다.
• 직업적으로나 개인적으로 도움을 주는 도구서로 AI를 활용할 수 있다.
  • AI의 강점이나 약점이 우리 각자의 강점이나 약점과는 다를 수 있으며, 이는 오히려 상당한 자산이 된다. AI를 활용해 사고와 접근 방식이 한층 다양해지면, 인간의 머리로는 떠올리기 힘든 혁신적인 해결책과 아이디어가 나올 수도 있다.
• 일상 업무에 AI를 활용하여 AI의 능력과 한계에 대한 이해를 높여야 한다. LLM에 익숙해질수록 LLM의 강점을 더 효과적으로 활용할 수 있고, 우리 직업에 미칠 잠재적 위협을 미리 파악하여 인간과 AI의 매끄러운 통합을 요구하는 미래에 더 잘 대비할 수 있게 된다.

2. 인간의 지속적 개입: 인간이 주요 과정에 계속 개입한다.

• AI 발전에 따라 그 효율성과 속도에 의존하여 모든 것을 AI에 맡기고 싶어질 수 있지만, AI에는 예상치 못한 약점이 있을지 모른다.
• AI는 실제로 아무것도 ‘알지’ 못한다. 그저 연속적인 배열에서 다음 단어를 예측할 뿐이다.
• AI가 그럴듯한 거짓말을 늘어놓는 것은 아닌지 확인할 수 있어야 하며, AI에 휘둘리지 않으면서 함께 작업할 수 있어야 한다. 이때 우리는 고유한 관점, 비판적 사고 능력, 윤리적 문제에 대한 의견을 제시하면서 AI를 감독하는 중요한 역할을 맡게 된다. 이러한 협업은 더 나은 결과를 도출할 뿐만 아니라, AI의 처리 과정에 지속적으로 참여함으로써 AI에 지나치게 의존하거나 현 상태에 안주하는 결과를 피하게 한다. 주요 처리 과정에 계속 개입하는 것은 AI로부터 적극적으로 배우고, 새로운 사고방식과 문제 해결 방식에 적응하게 한다. 실용적인 공동지능을 형성하는 데도 기여하게 된다.
• AI의 주요 처리 과정에 능숙히 관여하는 능력을 키워야 지적 성장이 가능해진다.

3. AI에게 페르소나를 부여하기: AI를 사람처럼 대하고, 어떤 유형의 사람인지 AI에게 알려준다.

• 명확하고 구체적인 인격을 설정해서, AI가 누구이며 어떤 문제를 해결해야 하는지 규정해야 한다.
• LLM은 사용자가 프롬프트에 입력한 내용의 다음 단어를 예측하고, 그 뒤로도 계속 그 다음 단어를 예측해 나간다.
• LLM은 학습에 사용된 문서의 일반적인 패턴을 따르는 경향이 있기 때문에, 처음에 내놓는 기본적인 답변은 포괄적이고 일반적인 내용일 수 있다. 이러한 패턴을 깨면 훨씬 더 유용하고 흥미로운 답변을 들을 수 있다. 패턴을 깨는 가장 쉬운 방법은 맥락과 제약 조건을 설정해 주는 것이다. 즉 ‘자신이 누구인지’ 말해주고 시스템에 일정한 관점을 제시하는 것이다.
• 목적에 맞는 역할을 맡아 달라고 요청한다. 사용자의 기대와 필요에 맞는 결과물을 산출하도록 지침과 방향을 LLM에게 제시하고, 흥미롭고 독특한 답변을 내놓을 수 있는 ‘사고방식’을 갖도록 하는 것이다.
• AI에게 페르소나를 부여하고, 작업 과정에 함께 참여하며, 지속적으로 지침을 제공한다.

4. 지금의 AI를 앞으로 사용하게 될 최악의 AI라고 생각한다.

• 한때 인간만이 할 수 있다고 여겨졌던 많은 일을 AI가 할 수 있게 될 것이다. 따라서 이 장에서 설명한 원칙을 수용하길 바란다.
• AI의 한계를 일시적인 것으로 받아들이고, 새로운 발전을 열린 마음으로 수용하며, AI의 기하급수적인 발전 속에 급변하는 비즈니스 환경에서 경쟁력을 유지하는 데 도움을 받을 수 있을 것이다.
• 새로운 삶의 형태로서 AI를 활용한 일과 삶의 변화는 단지 시작에 불과하다.

2부

LLM은 학습 데이터의 통계적 패턴에 기초해서 프롬프트에 입력된 글 바로 뒤에 나올 가능성이 가장 높은 단어를 예측하는 방식으로 작동한다. LLM은 그 단어가 진실인지, 의미가 있는지, 독창적인지는 신경 쓰지 않는다. 그저 사용자를 만족시키는 일관되고 그럴듯한 텍스트를 생성하려 할 뿐잉다. AI 환각은 참인지 거짓인지 구분하기 힘들 정도로 그럴듯하며, 문맥상으로도 적절해보인다.

LLM이 환각을 일으키는 이유에 대한 명확한 답은 없으며, 그 원인이 되는 요인은 모델마다 다를 수 있다. LLM에 따라 아키텍처, 학습 데이터, 목표가 다르기 때문이다. 그렇지만 환각은 여러 측면에서 LLM의 작동 방식에 깊이 관여한다.

LLM은 텍스트를 직접 저장하는 것이 아니라, 어떤 토큰이 다른 토큰 뒤에 올 가능성이 더 높은지에 관한 패턴을 저장한다. 이 말은 AI가 실제로는 아무것도 ‘알지’ 못한다는 의미다. AI는 답을 즉흥적으로 낸다.

This line appears after every note.