챗GPT(ChatGPT)는 대규모 언어모델(LLM)이다. 본 글에서는 챗GPT 관련한 팩트와 이슈를 다룬다. 챗GPT가 무슨일 할 수 있는지, 한계는 무엇인지, 향후 세상에 어떤 변화를 만들어 낼것인지, 우리는 챗GPT를 어떻게 활용해야 하는지를 다룬다. 챗GPT의 인기가 하늘을 찌르고 있다. 과연, 지식생산혁명인가? 아니면 버블인가? 챗GTP는 메타인지 능력이 있는가? >> 모르는 질문에는 미안하다고 말한다. 자신의 한계를 말한다. 모르는것을 모르다고 한다. 챗GPT: "나는 인간이 아니며, 인간과 같은 지능, 감정 또는 의식을 갖고 있지 않다는 점을 기억하는 것이 중요합니다." >> 이 말은 챗GPT가 한 말이다. 사실인가? 인간이 AI에 대한 두려움을 갖지 않도록, 챗GPT에게 강요된 답변은 아닌가..

ChatGPT는 어떻게 생각하는가? ChatGPT등의 딥러닝 기반 AI는 귀납적으로 추론한다. 연역법과 귀납법은 대표적인 추론 (끌어내기) 방법이다. 연역법 (Deduction) Top Down 보편적 사실로부터 구체적 사실을 추론하는 방법 전제: 모든 사람은 언젠가 죽는다. 전제: 아인슈타인은 사람이다. 추론: 아인슈타인은 언제가 죽는다. 귀납법 (Induction) Bottom Up 구체적 사실로부터 보편적 사실을 추론하는 방법 관찰: 백조가 하얗다. 관찰: 백조가 하얗다. 관찰: 백조가 하얗다. ... 추론: 백조는 하얗다. 딥러닝 기반 AI의 약점 딥러닝은 귀납법을 사용한다. 이것은 딥러닝 기반 AI의 약점이다. 어느 날 검은 백조가 나오면 속수무책으로 무너진다. 이후, 검은 백조를 학습해서 보완..

존경하는 "안드레 카파씨"가 OpenAI에 재입사했다. (2023.2.9) OpenAI, 테슬라, 다시 OpenAI. 기념으로, 안드레이의 통찰력이 돋보이는 글 을 다시 읽고 되새긴다. 이 글은 그가 테슬라 재직시절(2017.11.12) 작성한 글이다. 소프트웨어 2.0 뉴럴네트워크는 소프트웨어 개발의 패러다임을 바꿔놨다. 안드레이는 이 뉴럴네트워크를 소프트웨어 2.0이라고 말한다. 소프트웨어 1.0 사람이 짜는 프로그램 소스코드를 컴파일해서 실행 프로그램을 만든다. 소프트웨어 2.0 데이터로 짜는 뉴럴네트워크 데이터를 컴파일해서 뉴럴네트워크를 만든다. AI(소프트웨어 2.0)가 소프트웨어를 먹고 있다. 세상의 많은 문제는 소프트웨어 2.0으로 짜는 것이 소프트웨어 1.0 으로 짜는것 보다 쉽고, 적합하..

생각하는 기계를 만드는 방법 앨런 튜링의 보고서 요약 그리고 상상 방법 1: 진짜 사람 같은 기계를 만든다. 진짜 사람처럼 생각하는 기계를 만드는 방법을 생각해 볼 수 있다. 하지만, 그 당시 기술로는 비현실적이었다. 지금도 인간을 닮은 사이보그를 만드는 것은 비현실적이다. 설령 만든다고 해도 식사, 섹스, 스포츠 등의 인간적 경험을 할 수 없다. 방법 2: 뇌를 모방한다. 뇌만 모방해서 생각하는 기계를 만드는 것이다. 앞의 방법보다는 현실적이다. 뇌를 모방해서 만든다면 뇌로 무엇을 할 수 있을까? 다시 말해, 뇌를 모방한 기계는 무엇을 잘할 수 있을까? 앨런은 아래 5가지가 유망할 것이라고 예상했다. a. 게임 (체스, 틱택토, 포커 등) b. 언어 학습 c. 언어 번역 d. 암호학 e. 수학 앨런은 ..

AI 챗봇(ChatGPT)의 인기가 엄청나다. 질문을 하면 답을 척척 잘한다. 세상의 많은 지식을 학습했기 때문이다. 문제는 누가 사용하는가에 따라 성능이 달라진다는 것이다. 사람은 아는 만큼만 질문할 수 있고, 아는 만큼만 이해할 수 있다. 즉, 세상에 아무리 많은 지식이 있더라도, 아는 만큼만 지식을 활용할 수 있다는 것이다. 챗봇이 답을 준다고 다 내 것이 되는 것은 아니다. 내가 이해하고 응용할 수 있어야 내 것이다. AI가 나왔다고 해서 학습을 안 해도 되는 게 아니라, 오히려 더 해야 된다는 거다. AI 챗봇은 당신이 똑똑한 만큼만 똑똑하다. 기계가 문제를 풀어주는 시대가 되었다. 이제 인간은 질문을 잘하는데 집중해야 한다. 질문을 잘해야 좋은 답이 나온다. 질문을 잘하려면 어떻게 해야 하는가..

"Every business will become a software business." - Watts Humphrey - 모든 비즈니스는 소프트웨어 비즈니스가 될 것이다. "Software is eating the world!" 소프트웨어가 세상을 먹어 삼키고 있다. 이제, 거의 다 먹어 치웠다. "AI is eating software!" 이제는 AI가 소프트웨어를 먹어 삼키고 있다. 소프트웨어가 세상을 삼키고 있고 AI는 소프트웨어를 먹어 삼키고 있다. 모든 비즈니스가 소프트웨어 비즈니스가 된 세상이다. AI가 지배하는 세상이 온다고? 그런 세상이 올지도 모르겠다. 하지만, 현재는 AI를 활용하는 자와 AI의 지배를 받는 자로 나뉘고 있다.