AGI의 본질과 앞으로의 과제에 관한 명쾌한 답변서

dhan***

2024-12-29

AGI의 시대

“인간보다 뛰어난 존재가 온다!” 인간을 초월한 지능, AGI를 맞이할 준비가 되었는가

저자 : 한상기
출간 : 2024-11-29

2024년의 가장 큰 화두는 단연 "AGI(인공일반지능)"일 것이다. 그러나 AGI에 관한 명확한 정의를 찾아보기 어렵다. 대부분은 단순히 인간을 넘어서는 인공지능을 AGI라고 정의한다. 나 역시 그렇게 알고 있었고, 그렇게 이야기해 왔다.

빅테크 기업이나 학계 전문가들이 말하는 AGI의 정의는 각기 다르다. 스스로가 생각하는 AGI의 기준이 다르니 AGI를 구현할 수 있는 미래 시점도 제각각이다.

이 책은 이러한 궁금증을 해결하고, 빅테크 기업과 세계적인 AI 과학자들의 관점을 상세히 설명한다. 또한 AGI 실현을 위해 해결해야 할 문제점도 짚어준다.

책은 총 3개 부, 전체 7개 장으로 구성되어 있다. 1부 'AGI의 시대'에서는 AGI의 의미와 AI 전문 연구자의 견해, AGI의 잠재적인 위험을 살펴본다. 2부 '얼라인먼트: 연구와 정책'에서는 AGI 실현을 위한 문제점을 알아보고, 주요 기업의 접근 방법을 설명한다. 3부 '정책적 대응'에서는 EU를 포함한 주요 국가의 정책과 국제 협력을 다룬다.

책의 내용을 간단히 살펴보면, 1부 'AGI 시대는'는 전체 2개 장으로 구성되어 있다.

1장 '논쟁의 중심, AGI'에서는 AGI와 관련된 역사와 용어, AI 전문 연구자와 기업인들의 다양한 견해를 살펴본다. 2장 'AGI의 잠재적 위험'에서는 영화나 문학 작품에 나타난 AGI의 경고와 AI의 최고 연구자들의 경고 및 반대 견해를 다룬다.

<1부 AGI의 시대, 1장 논쟁의 중심, AGI, p40~p41>

<1부 AGI의 시대, 1장 논쟁의 중심, AGI, p96~p97>

2부 '얼라인먼트: 연구와 정책'은 전체 4개 장으로 구성되어 있다. 3장 '얼라인먼트 문제란 무엇인가'에서는 얼라인먼트의 개념과 필요성을 살펴본다. 4장 '얼라인먼트 연구의 주요 방향'에서는 데이터, 학습, 평가 단계별 얼라인먼트와 연구의 근본 과제를 다룬다. 5장 '얼라인먼트 연구 전문 그룹'에서는 각국과 대학의 연구 센터와 연구 방향을 살펴본다. 6장 '얼라인먼트 문제에 대응하는 주요 기업의 접근 방법'에서는 빅테크 기업(오픈AI, 앤스로픽, 구글 딥마인드)의 얼라인먼트 문제 접근 방법을 분석한다.

<2부 얼라인먼트: 연구와 정책, 3장 얼라인먼트 문제란 무엇인가?, p174~p175>

3부 '정책적 대응'은 1개의 장으로 구성되어 있다. 7장 'AI 안전과 통제를 위한 주요 국가의 정책 및 국제 협력'에서는 G7을 비롯한 EU, 영국, 미국, 프랑스, 중국, 캐나다의 AI 안전과 통제를 위한 주요 활동을 다룬다.

<3부 정책적 대응, 7장 AI 안전과 통제를 위한 주요 국가의 정책 및 국제 협력, p262~p263>

이 책을 통해 여전히 AGI에 관한 완벽한 답을 얻을 수는 없겠지만, AGI에 관해 충분히 토론할 수 있는 지식을 얻을 수 있었다. 안전한 AGI 구현에 필요한 요소들과 이를 실현하기 위한 기업과 국가의 노력을 알게 되었으며, 이해 깊이 이해하게 되었다.

책을 읽기 전에는 AI 도구 활용과 AI 비즈니스 전략에만 관심이 있었으나, 이제는 AGI를 위한 AI 과학자들의 깊은 고민을 알게 되었다. 2023년 11월 18일의 샘 알트만 해고의 의미도 비로소 이해하게 되었다.

311페이지 분량의 책은 그림이 적고 글씨로 빼곡했으나, 매우 흥미롭게 읽었다. 다양한 문학 작품과 한 번쯤은 들어본 과학자, 개발자의 생각과 논쟁이 흥미를 돋우었으며, 서비스 이면의 기업의 고민과 노력, 안전한 AI를 만들기 위한 국가의 노력을 알게 되어 큰 도움이 되었다.

가까운 미래에 어떤 형태로든 AGI는 등장할 것이다. 지금처럼 안전한 AGI를 위한 AI 과학자의 경고를 경청하고 주요 연구 그룹과 기업, 각 나라의 공조가 뒷받침된다면 문학 작품과 영화에서처럼 무시무시한 결말이 아닌 비록 더디더라도 모든 인류에 도움이 되는 AGI가 개발될 것으로 기대한다.

다만, 영화에서처럼 특정 국가나 기업의 누군가가 빌런이 되어서 독주하는 일이 없도록 대한민국도 주도적인 AI 강국으로 거듭나기를 기대해본다.

그리고 AI는 이제 선택이 아닌 필수라는 것을 반드시 이해해야 할 것이다.