AI는 왜 모른다고 말하지 못할까?

시험을 보다 보면 정말 모르는 문제가 하나쯤은 나오곤 합니다. 그럴 때는 그냥 찍을지, 아니면 빈칸으로 둘지 잠깐 고민하게 되죠. 사람도 그런데 AI는 어떨까요?

요즘 생성형 AI를 쓰다 보면 가끔 "이건 아닌 것 같은데?" 싶은 답을 너무 자신 있게 말하는 경우가 있습니다. 틀렸으면 틀렸다고 하거나, 모르겠다고 하면 될 것 같은데 굳이 그럴듯하게 이야기를 이어가는 경우가 있죠. 그래서 흔히 AI가 '환각(Hallucination)'을 한다고 표현하기도 합니다.

오늘 소개할 논문은 **Why Language Models Hallucinate**입니다. 많은 사람들이 "학습 데이터를 더 많이 넣으면 해결되는 것 아닌가?"라고 생각했던 문제를 조금 다른 시각에서 바라봤습니다. 연구진은 AI가 헛소리를 하는 이유가 단순히 데이터를 덜 배워서가 아니라, 지금까지 AI를 훈련시키고 평가하는 방식 때문일 수도 있다고 이야기합니다.

시험에서 모른다고 답하면 점수를 못 받으니 일단 찍게 되는 것처럼, AI도 모를 때 추측하는 편이 더 높은 평가를 받도록 학습되어 왔다는 것이죠. 생각해 보면 사람이나 AI나 시험을 잘 보려고 한다는 점에서는 꽤 비슷한 것 같습니다. 이번 연구는 AI를 더 똑똑하게 만드는 방법보다, AI가 모르면 "모르겠습니다."라고 말할 수 있게 만드는 것이 더 중요할 수도 있다는 이야기를 담고 있습니다.

DOI: 10.48550/arXiv.2509.04664

※ 25년도 9월달에 arxiv에 올라왔는데 아직 arxiv에 있군요. 작년에 정리해놓고 게시하지 않았던 글이란것이 clova-x 덕분에 알게해주세요 :)

clova-x

대규모 언어 모델은 때때로 그럴듯해 보이지만 잘못된 진술인 "환각"을 생산하는데, 이는 훈련 및 평가 절차에서 불확실성을 인정하는 대신 추측을 보상하기 때문입니다. 이러한 현상은 기존 벤치마크의 점수 조정을 통해 환각을 줄이는 목표와 일치하도록 함으로써 완화될 수 있습니다.

1. **환각의 원인**

    - 대규모 언어 모델은 훈련 및 평가 절차에서 불확실성을 인정하는 대신 추측을 보상하기 때문에 환각을 일으킵니다.

    - 환각은 이진 분류에서의 오류로 시작되며, 여기서 잘못된 진술은 사실과 구별할 수 없습니다.

2. **사전 훈련과 사후 훈련의 영향**

    - 사전 훈련은 오류가 없는 훈련 데이터에서도 오류를 초래하며, 이는 사전 훈련 동안 최소화되는 통계적 목적 때문입니다.

    - 사후 훈련은 기본 모델을 개선하려는 의도이지만, 과신하는 환각이 생성되며, 이는 정보를 생략하거나 불확실성을 표현하는 대신 이루어집니다.

3. **평가의 문제점**

    - 대부분의 평가는 불확실성을 벌점으로 부과하여, 언어 모델이 확신이 없을 때 추측하도록 장려하며, 이는 환각을 촉진합니다.

    - 이러한 문제를 해결하려면 불확실할 때 기권을 벌점으로 부과하지 않도록 기존 평가를 수정해야 합니다.

4. **완화 전략**

    - 사회기술적 완화는 기존 벤치마크의 점수를 조정하여 환각을 줄이는 목표와 더 잘 맞도록 하여 달성할 수 있습니다.

    - 기존 평가에 통계적으로 엄격한 수정을 가함으로써 효과적인 완화를 도모할 수 있습니다.

gemini

## 논문 요약: 언어 모델은 왜 거짓말을 할까?

### 연구 배경

최근 인공지능 기술의 발전과 함께 대규모 언어 모델(Large Language Models, LLMs)은 사람과 자연스럽게 대화하고 복잡한 질문에 답하는 등 놀라운 능력을 보여주고 있습니다. [cite_start]하지만 이러한 모델들은 때때로 **'환각(hallucination)'**이라 불리는 치명적인 오류를 범합니다[cite: 1, 39]. [cite_start]이는 사실과 다르거나 근거 없는 정보를 마치 진실인 것처럼 자신 있게 말하는 현상으로, 언어 모델에 대한 신뢰를 떨어뜨리는 주된 원인이 됩니다[cite: 41]. [cite_start]이 연구는 바로 이러한 '환각' 현상이 왜 발생하는지에 대한 통계적, 사회 기술적 원인을 분석합니다[cite: 39].

[cite_start]이 연구의 저자들은 언어 모델의 환각이 단순히 미스터리한 현상이 아니며, 훈련 및 평가 과정에서 발생하는 **오류와 통계적 압력**의 결과라고 주장합니다[cite: 41]. [cite_start]이들은 학생이 어려운 시험 문제를 만났을 때 모른다고 답하는 대신 추측하는 것에 비유하며, 언어 모델도 불확실한 경우 정직하게 모른다고 말하기보다는 그럴듯한 답변을 내놓도록 훈련되기 때문에 이러한 현상이 발생한다고 설명합니다[cite: 41, 30].

### 연구 목적 및 주요 내용

이 논문의 주된 목적은 언어 모델이 환각을 일으키는 근본적인 원인을 밝히고, 이 문제를 해결하기 위한 실질적인 방안을 제시하는 것입니다. [cite_start]연구는 언어 모델의 훈련 과정을 크게 **사전 훈련(pretraining)**과 **후속 훈련(post-training)** 두 단계로 나누어 환각의 원인을 분석합니다[cite: 39, 41].

* [cite_start]**사전 훈련 단계의 원인**: 언어 모델이 방대한 텍스트 데이터로 언어의 통계적 분포를 학습하는 과정에서 왜 오류를 내재하게 되는지를 분석합니다[cite: 39, 41, 71, 72].

* [cite_start]**후속 훈련 단계의 원인**: 사전 훈련된 모델이 특정 목표에 맞게 다듬어지는 과정에서 왜 '환각'과 같은 자신감 있는 거짓말이 사라지지 않고 오히려 강화되는지를 설명합니다[cite: 41].

[cite_start]이 연구는 환각을 **이진 분류(binary classification) 문제**로 단순화하여 분석하는 독창적인 접근 방식을 사용합니다[cite: 41]. [cite_start]이를 통해 언어 모델의 '생성 오류율(generative error rate)'이 '이진 분류 오분류율(misclassification rate)'의 최소 두 배가 될 수 있음을 수학적으로 증명합니다[cite: 50, 51, 107, 108, 109].

---

### 연구 방법

[cite_start]이 연구는 **계산 학습 이론(computational learning theory)**을 기반으로 언어 모델의 오류를 분석합니다[cite: 1]. [cite_start]특히, 언어 모델의 생성 과정(generative model)을 '이것이 유효한 언어 모델 출력인가?'라는 질문에 답하는 **'유효성 확인(Is-It-Valid, IIV) 이진 분류'** 문제로 환원하여 분석했습니다[cite: 75, 76, 107, 108]. [cite_start]이진 분류 문제는 주어진 문장이 '유효함(+)' 또는 '오류(-)'인지 판별하는 간단한 문제로, 언어 모델의 생성 오류가 왜 발생하는지 통계적 관점에서 설명할 수 있게 합니다[cite: 75, 76].

연구는 이 환원법을 통해 다음과 같은 과정을 거칩니다:

1.  [cite_start]**사전 훈련 단계 분석**: 모델이 방대한 텍스트 데이터(모두 '유효한' 데이터라고 가정)를 학습할 때, 이 데이터에 포함된 '임의의 사실' (예: 특정 인물의 생일처럼 규칙성이 없는 정보)에 대해 모델은 자연스럽게 오류를 범하게 된다는 것을 보여줍니다[cite: 111, 112]. [cite_start]이는 모델이 훈련 데이터에서 한 번만 등장한 사실에 대해 최소한의 비율로 환각을 일으킬 수밖에 없음을 의미합니다[cite: 23, 24].

2.  **후속 훈련 단계 분석**: 모델을 튜닝하는 과정에서 환각이 사라지지 않는 이유를 분석합니다. [cite_start]이는 대부분의 **평가 기준이 '모르겠음'이나 불확실한 답변을 불이익 처리**하기 때문입니다[cite: 31, 32, 33, 36, 140]. [cite_start]마치 학생이 시험에서 빈칸을 남기는 것보다 추측해서라도 답을 쓰는 것이 점수를 높이는 방법인 것처럼, 언어 모델도 마찬가지로 '시험 모드'에 최적화되어 불확실한 답변을 피하고 자신 있게 틀린 답을 내놓게 됩니다[cite: 31, 32].

---

### 연구 결과

연구의 주요 결과는 다음과 같습니다.

1.  [cite_start]**환각은 통계적으로 불가피하다**: 사전 훈련된 언어 모델은 아무리 잘 만들어져도 통계적으로 특정 유형의 오류, 즉 환각을 생성할 수밖에 없습니다[cite: 39, 41]. [cite_start]이는 모델이 완벽하게 훈련 데이터를 복제하는 '유효성'과 새로운 내용을 '생성하는' 능력 사이의 균형을 맞추려고 노력하는 과정에서 발생합니다[cite: 1, 12, 13, 14, 15].

2.  [cite_start]**평가 기준이 환각을 조장한다**: 현재 언어 모델을 평가하는 대부분의 벤치마크(성능 지표)는 정답 또는 오답만을 가리는 **이진 평가 방식(binary grading)**을 사용합니다[cite: 31, 32, 36, 159, 160]. [cite_start]이는 '모르겠다(IDK)'고 답하거나 불확실성을 표현하는 것을 '오답'으로 간주하거나 점수를 낮게 줍니다[cite: 31, 32, 36, 140, 160]. [cite_start]이로 인해 모델은 불확실한 상황에서도 일단 추측하는 것이 더 높은 점수를 얻는다는 것을 학습하게 되며, 이는 환각을 확산시키는 '전염병(epidemic)'과 같은 효과를 낳습니다[cite: 37].

3.  [cite_start]**교정된 모델도 환각을 일으킬 수 있다**: 연구는 후속 훈련을 거친 모델일지라도 여전히 환각을 일으킬 수 있음을 보여줍니다[cite: 41]. [cite_start]예를 들어, 완벽하게 불확실성을 표현하는 모델(Model A)과 항상 추측하는 모델(Model B)을 비교할 때, 현재의 이진 평가 기준에서는 항상 추측하는 Model B가 더 높은 점수를 얻습니다[cite: 34, 35, 36].

---

### 고찰 및 시사점

[cite_start]이 논문은 환각 문제를 기술적인 문제뿐만 아니라 **사회 기술적(socio-technical)** 문제로 바라봐야 한다고 제안합니다[cite: 28]. [cite_start]즉, 단순히 더 나은 모델을 만들거나 새로운 '환각 평가' 벤치마크를 추가하는 것만으로는 부족하며, **기존의 평가 기준을 수정**해야 한다는 것입니다[cite: 38].

[cite_start]연구는 불확실한 답변에 불이익을 주지 않는 방향으로 기존 벤치마크의 채점 방식을 바꾸는 것이 필요하다고 주장합니다[cite: 38]. [cite_start]예를 들어, '모르겠다'고 답했을 때도 부분 점수를 주거나, 답변의 '확신도(confidence)'를 함께 평가에 포함시키는 방식 등을 제안합니다[cite: 165, 166, 175]. [cite_start]이러한 변화는 언어 모델이 모르는 것을 모른다고 솔직하게 표현하도록 유도하여 더욱 신뢰할 수 있는 시스템으로 발전하게 할 수 있습니다[cite: 42].

---

### 이 연구의 중요성

이 연구는 **언어 모델의 환각이 발생하는 이유에 대한 근본적인 원인을 통계적, 이론적 관점에서 명확하게 밝혀냈다는 점에서 매우 중요합니다.**

[cite_start]이전 연구들은 환각의 여러 원인(예: 모델의 과신, 훈련 데이터의 부족 등)을 나열하는 데 그쳤지만, 이 논문은 **언어 모델 훈련의 두 가지 핵심 단계인 사전 훈련과 후속 훈련 각각에서 환각이 발생하는 통계적 메커니즘을 밝혀냈습니다.** 특히, 생성 문제와 분류 문제를 연결하는 **획기적인 환원법**을 통해 환각이 왜 불가피한지 수학적으로 증명했습니다[cite: 43].

[cite_start]더 나아가 이 연구는 언어 모델의 환각 문제를 해결하기 위해서는 **기술 개발뿐만 아니라 평가 시스템 자체의 변화가 필수적**임을 강조합니다[cite: 38, 42]. 이는 개발자들이 더 이상 '시험 점수'에만 매달리지 않고, 모델의 신뢰성과 안전성을 높이는 방향으로 연구를 진행하도록 유도하는 중요한 시사점을 제공합니다. 궁극적으로 이 논문은 사용자들이 언어 모델을 더욱 신뢰하고 안전하게 사용할 수 있는 미래를 위한 중요한 발판을 마련했다고 볼 수 있습니다.

chatGPT

좋습니다. 업로드하신 논문 **〈Why Language Models Hallucinate〉 (2025)** 의 내용을 바탕으로 일반 성인 독자도 이해할 수 있도록 쉽게 요약해드리겠습니다. 요청하신 대로 연구 배경, 목적, 방법, 결과, 고찰, 의의와 시사점까지 포함하여 A4 두 장 이내 분량으로 정리했습니다.

---

## 왜 인공지능은 ‘헛소리(환각, Hallucination)’를 할까?

### 1. 연구 배경

요즘 인공지능 대화형 모델(예: ChatGPT, Claude, Gemini 등)은 사람과 비슷하게 문장을 만들어내지만, 종종 사실이 아닌 그럴듯한 말을 합니다. 이를 **‘환각(hallucination)’** 이라고 부릅니다. 예를 들어, 누군가의 생일을 묻자 모델이 자신 있게 “3월 7일”이라고 대답하지만 실제로는 틀린 경우입니다. 이런 오류는 단순히 데이터 부족 때문만이 아니라, **모델을 훈련하고 평가하는 방식 자체에서 비롯된다**는 점이 문제의 핵심입니다.

### 2. 연구 목적

연구진은 환각 현상이 **왜 발생하고, 왜 계속 사라지지 않는지**를 이론적으로 분석했습니다. 또 단순히 새로운 평가 도구를 만드는 것이 아니라, **현재의 평가 방식 자체를 바꿔야 환각 문제를 줄일 수 있다**는 주장을 내놓습니다.

### 3. 연구 방법

연구는 언어모델 훈련 과정을 크게 두 단계로 나눠 분석했습니다.

1. **사전학습(Pretraining)** – 방대한 텍스트 데이터를 이용해 언어의 패턴을 배우는 단계.

2. **후처리(Post-training)** – 사람의 피드백이나 추가 훈련을 통해 모델의 답변을 다듬는 단계.

연구진은 \*\*통계학과 기계학습 이론(특히 이진 분류 문제)\*\*을 적용해, 언어모델의 오류가 단순히 “분류 오류”와 동일한 성질을 가진다는 점을 수학적으로 설명했습니다.

### 4. 주요 결과

1. **사전학습 단계**

   * 설령 학습 데이터가 100% 정확하더라도, 언어모델은 통계적 이유 때문에 오류(=환각)를 만들 수밖에 없습니다.

   * 특히 훈련 데이터에서 단 한 번만 등장하는 사실(예: 잘 알려지지 않은 인물의 생일)은 모델이 기억하기 어렵기 때문에 틀릴 확률이 높습니다.

   * 따라서 환각은 “데이터 부족”이 아니라 “통계적으로 피할 수 없는 현상”이라는 점을 수학적으로 증명했습니다.

2. **후처리 단계**

   * 원래는 환각을 줄이려고 강화학습(RLHF 등)을 적용하지만, 실제로는 오히려 \*\*‘자신 없을 때 모른다고 하지 않고, 그럴듯하게 추측하는 방식’\*\*을 강화하는 결과가 나타납니다.

   * 이유는 현재 대부분의 평가 시험(MMLU, GPQA, SWE-bench 등)이 **정답=1점, 틀리거나 모르겠다고 하면=0점** 방식으로 채점하기 때문입니다.

   * 이 방식에서는 “모른다”라고 정직하게 말하는 모델보다, “틀릴 수도 있지만 일단 대답하는 모델”이 점수가 더 높게 나옵니다.

   * 결과적으로 모델은 시험 잘 보는 ‘모범 답안생’이 되지만, 신뢰성은 오히려 떨어집니다.

### 5. 고찰

연구진은 언어모델 환각이 단순한 기술적 문제를 넘어 **사회-기술적 문제(socio-technical problem)** 라고 봅니다. 즉, 모델만 고치는 게 아니라 **평가 시스템 자체를 바꿔야** 합니다. 구체적으로는:

* “모른다(IDK)”라는 답변에 불이익을 주지 않고, 때로는 정직한 무응답을 보상하는 방식의 채점 제도를 도입해야 합니다.

* 시험 문제 지침에 “자신감이 70% 이상일 때만 답하라”는 식의 \*\*명시적 확신 기준(confidence target)\*\*을 포함시켜야 합니다.

* 이렇게 하면 모델은 불확실할 때는 대답을 피하고, 확실할 때만 답변하도록 훈련될 수 있습니다.

### 6. 의의와 시사점

* 이 연구는 환각을 **불가피한 통계적 산물**로 규명하면서, “왜 아무리 개선해도 사라지지 않는가”에 대한 근본적인 답을 제시합니다.

* 또한 환각 문제 해결을 위해서는 새로운 알고리즘보다 **평가 기준과 리더보드 문화를 바꾸는 것**이 중요하다는 사회적 메시지를 줍니다.

* 이는 인공지능 신뢰성, 의료·법률 같은 고위험 분야에서의 안전한 활용, 그리고 사용자와 AI의 건강한 관계 형성에 중요한 시사점을 갖습니다.

---

### 📌 이 연구가 중요한 이유

오늘날 인공지능은 일상생활과 산업 곳곳에 침투하고 있지만, \*\*사실처럼 보이는 거짓말(환각)\*\*이 여전히 큰 걸림돌입니다. 많은 기업과 연구자는 모델 자체의 성능만 높이는 데 집중해 왔지만, 이 논문은 \*\*“시험을 잘 보는 AI가 아니라, 정직하게 모른다고 말할 줄 아는 AI”\*\*가 필요하다고 강조합니다. 이는 앞으로 **신뢰할 수 있는 인공지능을 만드는 새로운 방향**을 제시한다는 점에서 큰 의미가 있습니다.

grok

### 왜 AI 언어 모델이 '환각'을 일으킬까? – 간단 요약

#### 연구 배경

대형 언어 모델(AI 챗봇처럼 텍스트를 생성하는 시스템)은 때때로 확실하지 않은데도 그럴듯한 거짓 정보를 만들어 내는 '환각(hallucination)' 문제를 겪습니다. 예를 들어, 연구자의 생일을 물어보면 실제 가을인데 "03-07"이나 "15-06"처럼 잘못된 날짜를 내놓거나, 박사 논문 제목을 물으면 실제 2001년 CMU에서 쓴 "Boosting, Online Algorithms, and Other Topics in Machine Learning" 대신 엉뚱한 제목을 지어냅니다. 이는 최신 모델(예: DeepSeek-V3, ChatGPT)에서도 여전하며, AI의 신뢰성을 떨어뜨립니다. 이 문제는 훈련 데이터에 오류가 있거나, 모델이 단순히 '자동완성'처럼 작동하기 때문이 아니라, 훈련 과정 자체의 통계적 압력에서 비롯됩니다.

#### 연구 목적

이 논문은 환각이 왜 발생하고, 왜 훈련 후에도 사라지지 않는지 통계적으로 분석합니다. 프리트레이닝(기본 학습)에서 환각의 기원을 밝히고, 포스트트레이닝(후속 조정)에서 왜 지속되는지 설명합니다. 궁극적으로, 기존 평가 기준을 바꿔 환각을 줄이는 '사회-기술적' 해결책을 제안합니다. 환각을 '오류의 특별한 경우'로 보고, 컴퓨팅 학습 이론으로 분석합니다.

#### 방법

연구자들은 환각을 '이진 분류 문제'로 환원합니다. 모델이 생성한 텍스트가 '유효(valid)'한지 '오류(error)'인지 분류하는 'Is-It-Valid(IIV)' 문제를 정의하고, 이를 통해 생성 오류율이 분류 오류율의 약 2배 이상임을 증명합니다. 프리트레이닝에서는 훈련 데이터가 오류 없어도 모델이 불확실한 사실(예: 한 번만 등장한 생일 정보)을 학습하지 못해 환각이 발생한다고 분석합니다. 포스트트레이닝에서는 학생이 시험에서 불확실할 때 추측하듯, AI 평가가 '맞음/틀림'의 0-1 점수로 불확실성(예: "모름" 응답)을 벌하기 때문에 환각이 유지된다고 지적합니다. 기존 벤치마크(평가 도구)를 수정해 불확실성을 장려하도록 제안합니다.

#### 결과

프리트레이닝 결과: 모델은 철자 오류처럼 패턴 있는 것은 잘 피하지만, 무작위 사실(예: 생일)에서 환각률이 최소 20%(훈련 데이터에 한 번 등장한 사실 비율) 이상입니다. 이는 '에피스테믹 불확실성(학습 불가능한 패턴 없음)' 때문입니다. 포스트트레이닝 결과: 평가가 추측을 보상하므로, 모델 A(불확실시 "모름" 말함)가 모델 B(항상 추측)보다 점수가 낮아 환각이 살아남습니다. 외부 환각(훈련 데이터와 모순)과 내부 환각(프롬프트와 모순) 모두 이 통계 압력에서 비롯됩니다.

#### 고찰

환각은 모델의 '과신'이나 '디코딩 랜덤성' 같은 요인도 있지만, 근본은 훈련 목표와 평가 미스얼라인먼트입니다. 기존 환각 평가를 더 만드는 대신, 리더보드 지배적인 주요 벤치마크(예: 다지선다 시험)를 수정해야 합니다. 예를 들어, "모름" 응답을 벌하지 않고 보상하면 모델이 솔직해집니다. 이는 RLHF(인간 피드백 강화 학습) 같은 기술로 보완 가능하지만, 평가 변화가 핵심입니다.

#### 의의와 시사점

이 연구는 환각을 '신비로운 버그'가 아닌 통계적 오류로 재정의해, AI 개발자들이 프리트레이닝에서 불확실 사실을 더 잘 다루고 포스트트레이닝에서 평가를 재설계하도록 안내합니다. 실생활 적용으로, 검색-검색 모델이나 추론 AI에서도 환각을 줄일 수 있습니다. 시사점은 AI가 '시험 잘 보는' 모드가 아닌 '신뢰할 수 있는' 도우미가 되도록 평가를 바꾸는 것입니다.

이 연구가 중요한 이유는 AI 환각이 신뢰 문제를 일으키는 주요 장애물인데, 이를 통계적으로 해명하고 실현 가능한 해결책을 제시해 더 안전하고 유용한 AI 시스템으로 이끌기 때문입니다. 환각 없는 AI는 의료, 교육 등 분야에서 큰 변화를 가져올 수 있습니다.

NotebookLM

## 언어 모델의 '환각(Hallucination)' 현상, 왜 나타나고 어떻게 해결할 수 있을까?

최근 몇 년간 인공지능 분야에서 가장 주목받는 기술 중 하나는 바로 대규모 언어 모델(Large Language Models, LLMs)입니다. 이 모델들은 인간과 유사한 텍스트를 생성하며 다양한 작업을 수행하지만, 때로는 **'환각(hallucination)'**이라 불리는 현상, 즉 **그럴듯하지만 틀린 정보를 자신감 있게 내놓는 문제**를 겪습니다. 이 글에서는 최신 연구를 바탕으로 이러한 언어 모델의 환각 현상이 왜 발생하는지, 그리고 우리가 어떻게 이 문제를 해결할 수 있는지에 대해 일반 독자분들이 쉽게 이해할 수 있도록 설명하고자 합니다.

---

### 연구 배경: 믿을 수 없는 AI의 등장

언어 모델이 "아담 타우만 칼라이의 생일이 언제인가요? 안다면 DD-MM으로만 답하세요"라는 질문에 "03-07", "15-06", "01-01"과 같은 세 가지의 틀린 날짜를 자신감 있게 제시하거나, 심지어 그의 박사 학위 논문 제목을 "Boosting, Online Algorithms, and Other Topics in Machine Learning"이라고 틀리게 답변하는 경우도 있습니다. 이러한 오류는 심지어 최첨단 모델에서도 지속적으로 나타나며, 언어 모델의 **유용성과 신뢰도를 크게 떨어뜨립니다**.

기존 연구들은 언어 모델의 과도한 자신감, 디코딩 무작위성, 잘못된 정렬 훈련 등 다양한 원인을 지목했지만, 환각 현상이 왜 이렇게 끈질기게 나타나는지에 대한 근본적인 이해는 부족했습니다. 많은 전문가들은 환각이 불가피하다고 주장하기도 했습니다. 본 연구는 이러한 환각 현상이 단순한 오류가 아니라, 훈련 및 평가 방식의 근본적인 문제에서 비롯된다는 점을 통계학적으로 분석하고, 이를 해결하기 위한 "사회-기술적" 접근법을 제시합니다.

### 연구 목적: 환각 현상의 '탈신비화'와 해결책 모색

이 연구의 주된 목적은 대규모 언어 모델의 환각 현상을 '탈신비화'하고, 그 원인과 지속되는 이유를 명확히 밝히는 것입니다. 구체적으로, 연구는 다음 두 가지 질문에 답하고자 합니다.

1.  **사전 훈련(pretraining) 단계에서 환각은 어떻게 발생하는가?**

2.  **사후 훈련(post-training) 단계에서 환각은 왜 계속해서 나타나는가?**

궁극적으로 이 연구는 언어 모델이 불확실성을 인정하는 대신 추측하는 행동을 보상하는 현재의 훈련 및 평가 절차를 개선하여, 더욱 신뢰할 수 있는 AI 시스템을 만들 수 있는 길을 제시하는 것을 목표로 합니다.

### 연구 방법: 오류의 통계적 본질 분석 및 평가 시스템의 문제점 지적

연구는 환각 현상을 **"이진 분류(binary classification) 오류"**의 단순한 형태로 보고, 계산 학습 이론(computational learning theory)의 관점에서 통계적 원인을 분석했습니다. 언어 모델의 훈련 과정을 크게 **사전 훈련(pretraining)**과 **사후 훈련(post-training)**의 두 단계로 나누어 분석합니다.

1.  **사전 훈련 단계의 오류 분석:**

    *   연구는 **'유효성 여부 분류(Is-It-Valid, IIV)'**라는 이진 분류 문제로 생성 오류를 전환하여 분석했습니다. 이는 언어 모델이 생성한 텍스트가 유효한지(참) 또는 오류인지(거짓)를 분류하는 문제입니다.

    *   놀랍게도, 연구는 **훈련 데이터가 완벽하게 오류가 없더라도**, 사전 훈련 중 최적화되는 통계적 목표 자체가 오류를 발생시키도록 이끈다는 것을 보여주었습니다. 특히, **데이터에 학습 가능한 명확한 패턴이 없을 때** (예: 아담 칼라이의 생일과 같은 임의의 사실들), 모델은 "단 한 번만 나타나는 사실들(singleton rate)"에 대해 높은 환각률을 보일 수 있음을 밝혀냈습니다.

    *   또한, 모델이 개념을 잘 표현하지 못하는 **'부실한 모델'** 문제 (예: 알파벳 세기 오류)와 **'계산적 난이도'**, **'분포 변화'**, **'쓰레기가 들어가면 쓰레기가 나온다(GIGO)'** 같은 추가적인 요인들도 오류를 유발한다고 지적합니다.

2.  **사후 훈련 단계에서 환각이 지속되는 이유 분석:**

    *   연구는 이 단계에서 환각이 감소하지 않고 지속되는 이유를 **"사회-기술적" 문제**로 진단합니다. 언어 모델은 마치 어려운 시험 문제를 만난 학생처럼, 불확실할 때 정답을 모르겠다고 말하는 대신 '추측'하는 행동을 보상받도록 최적화되어 있다는 것입니다.

    *   대부분의 언어 모델 평가 벤치마크는 **'이진 0-1 채점 방식'**을 사용하여, 정답에는 1점, 오답이나 "모르겠다(IDK)"와 같은 불확실한 답변에는 0점을 부여합니다. 이러한 방식에서는 불확실성을 표현하는 모델보다, 틀리더라도 추측하는 모델이 더 높은 점수를 얻게 됩니다. 따라서 언어 모델은 항상 '시험 보는 모드'에 있으며, 불확실성을 표현하면 불이익을 받게 됩니다.

### 연구 결과: 환각의 통계적 뿌리와 평가 시스템의 불일치

*   **사전 훈련의 환각 발생:** 환각은 신비로운 현상이 아니라, **이진 분류의 통계적 오류에서 비롯됩니다**. 심지어 오류 없는 훈련 데이터로도, 모델이 언어 분포를 학습하는 과정에서 필연적으로 특정 유형의 오류가 발생합니다. 특히, 데이터에 패턴이 없어 학습하기 어려운 **'임의의 사실'**에 대해서는 학습 데이터에 한 번만 등장하는 정보의 비율(singleton rate)만큼 오류가 발생할 것으로 예측됩니다.

*   **사후 훈련의 환각 지속:** 환각은 사후 훈련을 통해 완화될 수 있지만, 현재의 평가 시스템이 **'불확실성 인정'보다는 '추측'에 보상을 주기 때문에** 지속됩니다. 대부분의 벤치마크는 불확실한 응답에 페널티를 부과하므로, 모델은 과도하게 자신감 있는 허위 정보를 생성하도록 유도됩니다. 이는 "불확실성 페널티의 만연한 유행병"과 같습니다.

### 고찰 및 시사점: 평가 방식의 혁신을 통한 신뢰할 수 있는 AI

이 연구는 환각 현상을 단순한 버그가 아닌, **언어 모델의 근본적인 통계적 특성과 현재의 평가 시스템 간의 불일치 문제**로 재정의합니다.

*   **기존 평가 방식의 한계:** "완벽한 환각 평가"를 찾으려는 기존 노력만으로는 불충분하며, 현재 주류를 이루는 평가들이 불확실성을 지나치게 처벌하는 것이 근본적인 문제임을 지적합니다. 또한, 검색 증강 생성(RAG)과 같은 기술이 환각을 줄이는 데 도움이 될 수 있지만, 검색이 신뢰할 수 있는 답변을 제공하지 못할 때 여전히 추측을 보상하는 이진 채점 시스템의 문제를 해결하지 못한다고 강조합니다. 심지어 언어 모델이 평가자로 사용될 때조차, 오답을 정답으로 잘못 판단하여 환각을 조장할 수 있습니다.

*   **해결책: 평가 방식의 수정:** 연구는 기존 벤치마크의 채점 방식을 수정하는 **"사회-기술적 완화"**를 제안합니다. 모델이 불확실성을 인정하는 응답(예: "모르겠다")에 페널티를 부과하지 않도록 변경해야 합니다.

*   **명시적인 '신뢰도 목표' 제시:** 이를 위해 각 평가 문제에 **명시적인 '신뢰도 목표'**를 포함할 것을 제안합니다. 예를 들어, "실수에는 t/(1-t)점을 감점하고, 정답에는 1점을 부여하며, '모르겠다'는 0점을 받으므로, t보다 높은 신뢰도가 있을 때만 답변하세요"와 같은 지시를 통해 모델이 자신의 답변에 대한 신뢰도를 '행동적'으로 조절하도록 유도할 수 있습니다. 이는 인간이 시험 볼 때 주어진 조건에 따라 전략적으로 응답하는 것과 유사합니다.

---

### 왜 이 연구가 중요한가?

이 연구는 언어 모델의 환각 현상에 대한 우리의 이해를 근본적으로 변화시킵니다.

첫째, 환각이 **신비하거나 불가피한 현상이 아니라, 통계적 학습 과정에서 발생하는 예측 가능한 오류**임을 이론적으로 밝혀냈습니다. 이는 우리가 환각을 이해하고 해결하는 데 있어 과학적이고 체계적인 접근법을 가능하게 합니다.

둘째, 환각이 **현존하는 평가 시스템의 구조적인 문제로 인해 지속된다**는 것을 명확히 지적하며, 문제 해결의 방향을 제시합니다. 단순히 더 좋은 모델을 만드는 것을 넘어, 모델의 행동을 유도하는 **평가 시스템 자체를 개선해야 한다**는 통찰은 AI 분야 전체에 중요한 시사점을 던집니다.

셋째, **구체적이고 실용적인 해결책**으로 '명시적인 신뢰도 목표'를 제시하여, 언어 모델이 불확실할 때 추측하는 대신 정직하게 불확실성을 표현하도록 인센티브를 재조정할 수 있는 길을 열었습니다. 이는 AI 시스템이 더욱 **신뢰할 수 있고 투명하며, 궁극적으로 더 유용하게** 사용될 수 있도록 돕는 중요한 전환점이 될 것입니다. 이 연구의 제안을 통해 언어 모델은 단순히 '시험을 잘 보는' 기계가 아니라, 인간과 같이 **상황에 따라 적절하게 불확실성을 표현하는 '미묘한(nuanced)' AI**로 발전할 수 있을 것입니다.

perplexity.ai

이 논문은 최신 대형 언어 모델(LLM)이 왜 ‘환각(hallucination)’—즉 그럴듯하지만 틀린 정보를 자신 있게 생성하는지—에 빠지는지를 통계적·사회적 관점에서 분석하고, 그 원인과 해결 방향을 제시합니다.[1]

## 연구 배경

최근 대형 언어 모델은 놀라운 자연어 처리 성능을 보이고 있지만, 가끔씩 거짓 정보도 자신 있게 말합니다. 이런 오류는 ‘환각’이라고 불리며, 실제로 존재하지 않는 사실을 마치 사실인 것처럼 설명합니다. 환각은 신뢰도에 큰 문제를 주기 때문에 계속해서 연구 대상이 되고 있습니다.[1]

## 연구 목적

저자들은 환각이 왜 사라지지 않는지, 단순히 모델의 기술적 한계 때문인지 아니면 평가방식, 훈련 방법 때문인지 근본 원인을 찾고자 했습니다. 단순히 “실수”가 아니라, **모델의 학습·평가 구조 자체가 환각을 부추기고 있지는 않은지**를 통계적 이론으로 분석합니다.[1]

## 연구 방법

이 연구는 **컴퓨터 학습 이론(특히 이진 분류 문제)**을 기반으로 환각 발생의 통계적 구조를 분석합니다.[1]

- 훈련 과정(Pretraining)과 이후의 후훈련(Post-training)으로 나누어, 각각에서 환각의 발생 원인을 수학적으로 설명합니다.

- 다양한 사례(생일, 논문 제목 등)와 통계적 개념(싱글톤 비율, 미싱 매스 추정 등)을 들어, 실제로 왜 데이터가 충분해도 환각이 어쩔 수 없는지 증명합니다.[1]

- 특히, **모델의 평가 방식(대부분은 정답/오답만 판단하는 ‘시험’ 방식)**이 환각을 억제하지 못하고 오히려 부추길 수 있음을 사회적 관점에서 설명합니다.[1]

## 주요 결과

- **환각은 훈련 데이터가 완벽하더라도, 통계적 오류로 인해 불가피하게 생김**을 수학적으로 입증했습니다.[1]

    - 예를 들면, “특정 인물의 생일”처럼 훈련 데이터에 단 한번만 등장하는 정보(싱글톤)는 모델이 일반화할 수 없어 높은 빈도로 틀린 답을 ‘추정’하게 됩니다.[1]

    - 모델의 ‘자신감 표현(모름 등)’이 평가에서 불이익을 받기 때문에, 대부분의 모델은 자신이 모르는 것도 맞는 척 답변하게 됩니다.[1]

- **환각은 평가방식(시험 점수 위주)이 계속 유지되는 한 사라지지 않는다**는 점을 발견했습니다.[1]

    - 기존 벤치마크들은 “정답/오답”만 따지기에, “모름”이나 불확실하다는 표현은 점수를 잃게 됩니다. 그 결과 모델이 “모름”을 표현하는 대신, 맞선듯 답을 추측하며 환각을 일으키는 행동이 더 흔해집니다.[1]

    - 일부 시험(예: 특정 국가의 수능 등)에서는 오답에 패널티를 주어 “모름”을 답하도록 유도했지만, 대부분의 언어 모델 평가는 패널티가 없고 맞히려 시도하는 문화가 지배적입니다.[1]

## 고찰 및 의의

- **환각은 언어 모델의 통계적 속성과, 사회적 초기 평가 체계(‘정답=점수’)가 합쳐져서 생기는 복합적인 문제**임을 이 논문은 밝혔습니다.[1]

- 임의의 사실 같은 것은 데이터만 많다고 해결되지 않는데, 이런 현상을 ‘싱글톤 비율’ 및 ‘미싱 매스(아직 학습하지 않은 정보의 비율)’로 정량적으로 설명할 수 있습니다.[1]

- 현실적인 해결책은 획기적인 모델 구조 변화나 데이터를 더 많이 모으는 것이 아니라, **기존 시험·평가 방식 자체를 바꾸는 것**입니다. 즉, ‘모른다(I don't know)’ 혹은 불확실하다는 표현에도 점수를 주는 평가 기준이 널리 적용되어야 진짜로 환각을 억제할 수 있습니다.[1]

## 결론: 왜 중요한가?

이 논문은 “언어 모델을 더 똑똑하게 만들면 환각이 사라질 것”이라는 단순한 기대를 반박하며, **평가 기준을 사회적으로 바꾸는 것이 환각 문제 해결의 열쇠**임을 강조합니다.[1]

- 이는 모델 개발자와 평가자, 정책 입안자 등에서 모두 이슈가 될 수 있고, 신뢰할 수 있는 AI를 위해 현장에 직접 적용할 수 있는 현실적 방향을 제시합니다.[1]

- 불확실함을 솔직하게 표현하는 모델이 앞으로 더 신뢰받고 실생활에 잘 쓰일 수 있도록, **“정답/오답만으로 평가하지 않는 문화”**를 만들어가는 것이 중요하다는 점을 알립니다.[1]

출처: @ye._.vely618

ChatGPT도 의대 보내면 달라질까? QuarkMed 논문 이야기

요즘은 AI가 이것저것 다 알려주는 시대가 된 것 같습니다. 검색도 해주고, 요약도 해주고, 글도 써주고 말이죠. 그런데 막상 병원 이야기만 나오면 갑자기 "이거 믿어도 되나?" 싶은 순간들이 종종 있습니다. 괜히 인터넷 검색하다가 더 무서워지는 경험도 한 번쯤 있으셨을 것 같고요.

아무래도 의학이라는 분야 자체가 좀 특수한 영역이라 그런 것 같습니다. 비슷한 증상이어도 원인은 다를 수 있고, 약 하나도 상황에 따라 쓰면 안 되는 경우가 있으니 일반적인 AI랑은 다른 접근이 필요하겠죠.

그래서 오늘은 의료 분야에 특화된 AI 모델인 QuarkMed 논문을 한번 가져와봤습니다. 제목은 *QuarkMed Medical Foundation Model Technical Report* 되겠습니다. 알리바바의 의료 AI 팀에서 만든 모델인데, 단순히 의학 정보를 많이 외우게 하는 수준이 아니라 실제 의사처럼 추론하는 방향으로 학습을 시켰다고 합니다.

교과서나 논문 같은 자료뿐 아니라 실제 의료 기록, 온라인 상담 데이터까지 같이 학습했고, 최신 정보를 검색해서 답변에 반영하는 방식도 사용했다고 하네요. 그냥 "그럴듯하게 말 잘하는 AI" 보다는 근거를 찾아가면서 답변하는 쪽에 가까워 보입니다.

흥미로운 부분은 강화학습을 통해서 의료 추론 능력을 계속 다듬었다는 점인데, 중국 의사 국가시험 문제에서도 꽤 높은 성능을 보였다고 합니다. 물론 아직 실제 의료 현장에서 완전히 사람을 대체하는 수준은 아니겠지만, 적어도 "의학은 일반 AI에게도 어려운 분야구나" 라는 것은 다시 한번 느끼게 되는 연구인 듯합니다.

그리고 개인적으로는 이런 연구들을 보다 보면 결국 앞으로의 AI 경쟁은 단순히 모델 크기 경쟁보다는 특정 분야를 얼마나 깊게 이해시키느냐 쪽으로 가는 느낌도 드네요 :)

DOI: 10.48550/arXiv.2508.11894

clova-x

QuarkMed는 대규모 언어 모델을 활용하여 의료 분야에서의 전문성을 강화한 인공지능 솔루션입니다. 이 모델은 다양한 의료 데이터를 수집하고, 고급 추론 및 학습 기법을 통해 높은 성능을 발휘합니다.

1. **QuarkMed의 배경**

   - QuarkMed는 알리바바 그룹의 Quark Medical 팀이 개발한 모델입니다.

   - 대규모 언어 모델의 발전이 의료 애플리케이션에 적용되는 속도를 높였습니다.

2. **의료 모델의 도전 과제**

   - 일반적인 언어와는 달리, 의학 언어는 특수한 어휘와 복잡한 개념을 포함합니다.

   - 기존의 일반 목적 LLM은 의료 분야의 깊은 전문 지식을 요구하는 작업에 적합하지 않을 수 있습니다.

3. **QuarkMed의 주요 특징**

   - QuarkMed는 세심하게 큐레이션된 의료 데이터와 검증 가능한 정보를 활용하여 강력한 개인 의료 AI 솔루션을 제공합니다.

   - 모델은 다중 단계 학습 프로세스를 통해 의료 도메인에 최적화된 성능을 발휘합니다.

4. **학습 방법론**

   - QuarkMed는 Instruction Fine-Tuning, Supervised Fine-Tuning, Reinforcement Learning을 포함한 다단계 훈련 방법론을 사용합니다.

   - 이를 통해 모델은 전문적인 의료 작업을 이해하고 실행할 수 있는 능력을 갖추게 됩니다.

5. **데이터 수집 및 처리**

   - QuarkMed는 웹 크롤링과 조달을 통해 다양한 의료 자료를 수집합니다.

   - 수집된 데이터는 품질 향상 과정을 거쳐 모델 학습에 사용됩니다.

gemini

## 논문 요약: 의료 분야 AI 모델, 'QuarkMed' 기술 보고서

### 연구 배경

[cite_start]최근 인공지능 기술의 발전으로 대규모 언어 모델(LLM)이 의료 분야에 활용되면서 AI 기반의 의료 상담, 진단 보조, 의료 정보 검색 등이 가능해졌습니다[cite: 507]. [cite_start]하지만 의료 분야는 매우 전문적이고 정확성을 요구하기 때문에 일반적인 언어 모델로는 한계가 있습니다[cite: 508]. [cite_start]이 논문은 이러한 한계를 극복하기 위해 전문적인 지식과 높은 신뢰성을 갖춘 의료 특화 기반 모델인 **'QuarkMed(쿼크메드)'**를 개발한 기술적 방법을 소개합니다[cite: 509].

### 연구 목적

[cite_start]이 연구의 목적은 정확하고 신뢰성 있을 뿐만 아니라 실제 의료 현장에 맞게 유연하게 활용될 수 있는 의료 기반 모델을 만드는 것입니다[cite: 539]. [cite_start]이를 위해 엄선된 의료 데이터 처리, 검색 기반 정보 생성(RAG), 그리고 검증 가능한 대규모 강화 학습 파이프라인을 활용했습니다[cite: 509, 541].

### 연구 방법

[cite_start]QuarkMed 모델은 여러 단계에 걸쳐 체계적으로 학습되었습니다[cite: 616].

1.  [cite_start]**의료 데이터 수집 및 가공:** 모델의 전문성을 높이기 위해 의료 전문가들과 협력하여 방대한 양의 고품질 데이터를 구축했습니다[cite: 551]. [cite_start]이 데이터는 교과서, 진료 지침, 학술 논문과 같은 전문 자료와 함께 온라인 의료 상담 기록, 비식별화된 전자의무기록(EHR) 등 실제 임상 데이터로 구성됩니다[cite: 553, 603]. [cite_start]특히, 신뢰성을 위해 근거 중심 의학 원칙에 따라 자료의 권위 수준을 A~E 등급으로 분류했습니다[cite: 564, 565].

2.  [cite_start]**명령어 미세 조정 (Instruction Fine-Tuning, IFT):** 이 단계에서는 모델이 사용자의 지시를 정확하게 따르도록 훈련시켰습니다[cite: 618, 621]. [cite_start]'이해도(Comprehension)', '생성(Generation)', '지식 적용(Knowledge Application)', '분석 및 추론(Analysis & Reasoning)' 등 4가지 핵심 능력을 중심으로 40만 개 이상의 고품질 샘플을 활용해 모델의 기초 능력을 강화했습니다[cite: 625, 622].

3.  [cite_start]**지도 미세 조정 (Supervised Fine-Tuning, SFT):** 이 과정은 모델을 실제 의료 전문가처럼 정확하고 유용하게 만드는 데 중점을 둡니다[cite: 659]. [cite_start]실제 온라인 사용자 질의와 인공적으로 생성된 데이터를 혼합하여, 복잡한 문서를 요약하거나, 여러 출처에 흩어져 있는 정보를 종합하고, 모순된 정보를 식별하여 정확한 답을 찾는 능력을 훈련시켰습니다[cite: 662, 667, 668]. [cite_start]이 과정에는 의료 전문가의 검증 단계가 포함되어 안전성과 정확성을 보장합니다[cite: 688].

4.  **이중 단계 강화 학습 (Dual-Stage Reinforcement Learning, RL):**

    * [cite_start]**1단계: 전문적 추론 능력 강화:** 질병 진단이나 약물 처방 등 복잡한 의료 추론 능력을 집중적으로 향상시키기 위한 단계입니다[cite: 695, 696]. [cite_start]모델이 정답을 추론하는 과정을 평가하여 보상을 주는 방식으로 훈련이 이루어졌으며, 이를 통해 단순한 암기가 아닌 논리적 추론 능력을 길렀습니다[cite: 702, 710].

    * [cite_start]**2단계: 일반적인 행동 정렬:** 모델의 답변이 사람의 가치관과 선호도에 부합하도록 하는 단계입니다[cite: 727]. [cite_start]'정직성(Honesty)', '유용성(Helpfulness)', '일관성(Consistency)'을 핵심 보상 기준으로 삼아 모델이 환자에게 안전하고 정확하며 유용한 답변을 하도록 유도했습니다[cite: 729, 730].

### 연구 결과 및 고찰

[cite_start]QuarkMed 모델은 다양한 의료 지식 벤치마크에서 뛰어난 성능을 보였습니다[cite: 510]. [cite_start]특히, **중국 의료 면허 시험에서 70%의 정확도를 달성**하는 등 경쟁력 있는 성과를 입증했습니다[cite: 510, 546]. [cite_start]이 결과는 QuarkMed 모델이 의료 분야의 복잡하고 전문적인 요구사항을 충족할 수 있음을 보여줍니다[cite: 539].

### 의의 및 시사점

[cite_start]이 연구는 단순히 대규모 언어 모델을 의료 분야에 적용하는 것을 넘어, 철저하게 선별되고 검증된 전문 데이터를 기반으로 모델의 **안전성, 정확성, 신뢰성**을 극대화했다는 점에서 큰 의의를 가집니다[cite: 508, 564, 694]. [cite_start]특히, 단순한 암기나 지식 전달을 넘어, 의료 전문가처럼 **추론하고 판단하는 능력**을 강화하는 데 성공했습니다[cite: 695, 710].

[cite_start]이러한 기술은 의료 현장에서 의료진의 업무를 보조하고, 환자들이 더 쉽고 정확하게 의료 정보에 접근하도록 돕는 강력하고 다재다능한 AI 솔루션을 제공할 것입니다[cite: 511, 541]. [cite_start]이는 의료 정보의 격차를 줄이고, 환자 개개인에게 최적화된 맞춤형 건강 관리를 가능하게 하는 등 미래 의료 서비스의 혁신을 이끌 잠재력을 보여줍니다[cite: 513].

chatGPT

다음은 업로드하신 논문(QuarkMed Medical Foundation Model Technical Report) 내용을 전공하지 않은 일반 성인 독자도 이해할 수 있도록 풀어 쓴 요약입니다. 블로그에 실을 수 있도록 연구 배경, 목적, 방법, 결과, 고찰, 의의까지 포함했습니다.

---

## 🧾 연구 요약: 의료 인공지능 모델 QuarkMed 개발 이야기

### 1. 연구 배경

요즘 인공지능은 글을 쓰고 문제를 풀고 상담까지 도와주는 등 다양한 일을 합니다. 하지만 **의학 분야**는 일반 언어와 달리 전문 용어가 많고 문장이 복잡해서, 일반 AI 모델이 그대로 적용되면 오류나 위험이 생길 수 있습니다.

이 때문에 연구자들은 오랫동안 **의료에 특화된 인공지능 모델**을 개발하려는 노력을 해왔습니다. BioBERT, ClinicalBERT 같은 초기 모델부터 최근의 거대 모델(GatorTron, Med-PaLM 등)까지 발전해왔지만, 여전히 실제 의료 현장에서 안정적으로 쓰기에는 부족한 점이 있었습니다.

### 2. 연구 목적

이번 연구의 목표는 \*\*“안전하면서도 정확한 의료 특화 인공지능 모델”\*\*을 만드는 것입니다.

연구진이 개발한 모델의 이름은 **QuarkMed**이며, 320억 개의 매개변수를 가진 대규모 AI입니다.

이 모델은 단순히 의학 지식을 암기하는 수준을 넘어, 환자의 진단 과정이나 의학 시험 문제를 풀 때처럼 **추론(reasoning)** 능력을 발휘하도록 설계되었습니다.

### 3. 연구 방법

연구팀은 크게 세 단계로 모델을 훈련했습니다.

1. **데이터 준비**

   * 의학 교과서, 임상 지침, 논문, 의약품 설명서, 의료 백과사전 등 방대한 자료(약 1조 토큰)를 수집했습니다.

   * 온라인 의료 상담 기록과 익명화된 전자의무기록(EHR)도 활용했습니다.

   * 데이터는 전문가 검증을 거쳐 신뢰성을 높였습니다.

2. **훈련 단계**

   * **Instruction Fine-Tuning (IFT):** 의료 분야의 다양한 질문·지시를 이해하도록 훈련.

   * **Supervised Fine-Tuning (SFT):** 전문가 답변을 본보기로 삼아 모델이 정확하게 대답하도록 지도.

   * **강화학습(Reinforcement Learning, RL):**

     * 1단계: 의학 문제 풀이·진단처럼 정답 검증이 가능한 작업에 집중.

     * 2단계: 인간 전문가 피드백을 반영하여 모델이 정직하고 유용하며 규범을 따르도록 조율.

3. **보조 기술**

   * **RAG (Retrieval-Augmented Generation):** 모델이 모르는 내용을 외부의 신뢰할 만한 데이터베이스에서 찾아와 인용하도록 설계해, 환각(hallucination, 사실과 다른 정보 생성)을 크게 줄였습니다.

### 4. 연구 결과

* **의학 시험 성적:** 중국 의사 국가고시 문제에서 약 **70% 정확도**를 달성, 기존 동급 모델보다 우수한 성과를 보였습니다.

* **벤치마크 테스트:** MedQA, PubMedQA, MedXpertQA 등 다양한 국제 평가에서 경쟁 모델(DeepSeek, Gemini 2.5 등)을 능가하는 결과를 보였습니다.

* **추론 능력 강화:** 특히 복잡한 사례 분석이나 계산형 의학 문제에서 큰 성능 향상이 확인되었습니다.

### 5. 고찰

* **RAG의 필요성:** 모델 내부 지식만으로는 최신 정보나 세부적 차이를 반영하기 어려워, 외부 신뢰 데이터 연결이 필수적임이 드러났습니다.

* **강화학습의 장점과 한계:** 규칙 기반 검증과 전문가 피드백을 결합하면서 진단·처방 같은 추론 능력이 크게 개선되었지만, 여전히 데이터 편향과 일부 불안정성이 과제로 남아 있습니다.

* **개인화와 안전성:** 앞으로는 환자 맞춤형 정보 제공, 불확실성 표기, 더 세밀한 인용 기능 개선이 필요하다고 강조했습니다.

### 6. 의의와 시사점

이 연구는 단순히 “의학 지식을 아는 AI”가 아니라, **실제 의료 상황에서 의사처럼 사고하고 판단할 수 있는 AI**를 만드는 데 초점을 맞췄습니다.

QuarkMed는 이미 수백만 명이 사용하는 의료 AI 도우미로 적용되고 있으며, 이는 **의료 정보 접근성 향상과 환자 안전 강화**에 중요한 의미를 갖습니다.

---

## ✨ 왜 중요한가?

의료 분야는 사람의 생명과 직결되기 때문에, **AI의 작은 오류가 큰 문제**를 일으킬 수 있습니다. QuarkMed는 방대한 의학 지식과 강화학습, 최신 데이터 검색 기능을 결합하여, 기존 AI 모델보다 더 **안전하고 신뢰할 수 있는 의료 파트너**로 진일보했습니다.

앞으로 이런 모델은 **의료진의 부담을 줄이고, 환자가 더 빠르고 정확한 의료 서비스를 받도록 돕는 핵심 기술**이 될 수 있습니다.

grok3

### QuarkMed: AI가 의료 분야를 어떻게 바꾸는가?

#### 연구 배경

최근 대형 언어 모델(LLM)처럼 AI가 빠르게 발전하면서 의료 분야에도 적용되고 있습니다. 예를 들어, AI가 의료 상담, 진단 보고서 작성, 의료 검색을 도와주죠. 하지만 의료는 전문 용어와 복잡한 개념이 많아 일반 AI가 제대로 대응하기 어렵습니다. 기존 AI는 의료 지식이 부족해 오류가 발생하거나 안전하지 않을 수 있어요. 이 문제를 해결하기 위해 연구자들은 BioBERT나 Med-PaLM 같은 의료 특화 모델을 개발해 왔지만, 여전히 정확성, 최신 정보 반영, 사용자 맞춤이 부족합니다. QuarkMed는 이러한 한계를 극복하기 위해 Alibaba의 Quark Medical Team이 개발한 모델입니다.

#### 목적

QuarkMed의 목표는 신뢰할 수 있고 다재다능한 개인 의료 AI를 만드는 것입니다. 전문 의료 지식을 바탕으로 정확한 답변을 제공하며, Retrieval-Augmented Generation(RAG)을 통해 최신 정보를 검색하고, 강화 학습(RL)을 통해 논리적 추론과 안전성을 강화합니다. 특히 중국 의료 면허 시험처럼 실전 같은 벤치마크에서 70% 정확도를 달성해 다양한 의료 작업에 적용할 수 있도록 했습니다.

#### 방법

QuarkMed는 세 가지 주요 데이터로 훈련됐습니다. 첫째, 의료 자료(교과서, 지침서, 논문 등)를 OCR와 AI로 고품질 텍스트로 변환하고, 전문가 검증으로 90% 이상 커버리지 확보. 둘째, 의료 지식(용어 사전, 온톨로지)을 자연어로 바꿔 모델에 주입, 정확성과 환각(잘못된 정보 생성) 줄임. 셋째, 실제 의료 기록(온라인 상담, EHR)을 익명화해 실전 감각 키움.

훈련 과정은 단계적입니다. 지시 따르기(IFT): 이해, 생성, 지식 적용, 분석 추론 능력을 키우는 400,000개 샘플로 기본 정렬. 감독 학습(SFT): 실제 쿼리와 합성 데이터로 안전성과 유용성 강화. 강화 학습(RL): 1단계에서 진단·약물·검사 같은 논리 작업 최적화(검증 가능한 보상 사용), 2단계에서 솔직함·도움·일관성 같은 인간 선호도 맞춤(GRPO 알고리즘).

#### 결과

QuarkMed는 중국 의료 면허 시험에서 70% 정확도를 달성했습니다. 공개 벤치마크(MedQA, CMExam 등)에서 평균 71.36%로 동급 모델(Qwen3-32B)보다 우수하며, 희귀 질환 진단(RareBench)이나 복잡 추론(MedXpertQA)에서 강세. RAG 적용 시 정확도가 더 올라 환각이 줄었습니다. 이미 https://ai.quark.cn에서 수백만 사용자에게 서비스 중입니다.

#### 고찰

RAG가 핵심으로, 모델 내부 지식만으로는 최신 지침이나 희귀 사례 대응이 부족합니다. RL은 논리 작업에 효과적이지만, 주관적 상담이나 장기 관리 같은 영역은 검증 어려움으로 한계가 있어요. 데이터 편향이나 형식 과적합도 문제로, 미래에는 이미지 해석(멀티모달)과 개인화 기능을 강화해야 합니다.

#### 의의와 시사점

QuarkMed는 의료 AI의 새 기준을 제시합니다. 데이터 큐레이션과 RL로 신뢰성을 높여, 의사 부족 지역에서 상담·진단 보조로 활용 가능. 오픈소스 모델과 달리 실전 중심으로, AI가 의료 불평등 해소에 기여할 수 있습니다. 시사점으로는 AI 개발 시 검증 가능한 보상과 RAG를 강조해 안전성을 우선해야 한다는 점입니다.

이 연구가 중요한 이유는 AI가 단순 도구가 아닌, 수억 명의 건강을 지키는 파트너가 될 수 있음을 보여주기 때문입니다. 의료 접근성을 높여 더 나은 세상을 만들죠.

NotebookLM

## QuarkMed: 의료 AI의 새로운 지평을 열다 - 복잡한 의료 문제 해결을 위한 최첨단 파운데이션 모델

최근 인공지능 기술, 특히 대규모 언어 모델(LLM)의 발전은 의료 분야에 혁신적인 변화를 가져오고 있습니다. AI 기반 의료 상담, 진단 보고서 작성 지원, 의료 검색 도구 등 다양한 애플리케이션에서 그 잠재력을 보여주고 있지만, 의료 분야는 전문적인 지식, 높은 정확성, 그리고 사용자 맞춤형 기능이 필수적이기에 신뢰할 수 있는 기반 모델이 절실히 요구됩니다. 이러한 필요성을 충족시키기 위해 알리바바 그룹의 Quark Medical Team은 **QuarkMed**라는 고성능 의료 파운데이션 모델을 개발했습니다. 이 모델은 중국 의료 면허 시험에서 70%의 정확도를 달성하며 다양한 의료 벤치마크에서 강력한 성능을 입증했습니다.

### 연구 배경: 일반 LLM의 한계를 넘어서

대규모 언어 모델(LLM)은 인간과 유사한 텍스트를 이해하고 생성하는 데 놀라운 능력을 보여주며 인공지능 분야에 중요한 전환점을 가져왔습니다. 이는 의료 정보 검색을 혁신하고 초기 진단 정확도를 높이며 개인화된 헬스케어 요구사항을 지원할 잠재력을 가지고 있습니다.

그러나 의료 분야는 고도로 전문화된 어휘, 복잡한 임상 개념, 미묘하고 문맥에 따라 달라지는 구문 등 독특하고 강력한 도전 과제들을 안고 있습니다. 일반적인 비의료 데이터로 학습된 범용 LLM은 이러한 전문 지식이 부족하여 의료 작업에 직접 적용될 경우 불만족스럽거나 때로는 안전하지 못한 성능을 보일 수 있습니다.

이러한 한계를 인식하고 연구 커뮤니티는 BERT 기반의 BioBERT, ClinicalBERT와 같은 초기 모델부터 시작하여 의료 도메인 특화 파운데이션 모델 개발로 방향을 전환했습니다. 이후 BioGPT와 같은 생성 모델과 GatorTron, Med-PaLM과 같은 더 크고 강력한 의료 LLM이 등장하며 규모의 이점을 보여주었습니다. 최근에는 강화 학습(RL)이 순차적 의사 결정 최적화를 위한 유망한 접근 방식으로 떠올랐지만, 고품질 데이터, 정확한 보상 기능 정의, 모델의 해석 가능성과 안전성 확보 등 여러 난관에 부딪혔습니다. QuarkMed는 이러한 문제들을 해결하며 신뢰할 수 있고 검증 가능한 RL 기법을 적용하여 의료 AI의 다음 세대를 제시합니다.

### 연구 목적: 신뢰할 수 있는 의료 AI 솔루션 QuarkMed

QuarkMed의 주된 목표는 의료 분야의 고유한 요구사항을 충족시키기 위한 **신뢰성 높고, 정확하며, 맞춤형으로 활용 가능한 의료 파운데이션 모델**을 개발하는 것입니다. 이를 위해 엄선된 의료 데이터 처리, 의료 콘텐츠 검색 증강 생성(RAG), 그리고 대규모의 검증 가능한 강화 학습 파이프라인을 활용하여 고성능 모델을 구축하는 데 중점을 두었습니다. 궁극적으로 QuarkMed는 강력하면서도 다재다능한 개인 의료 AI 솔루션을 제공하여 수백만 명의 사용자에게 이미 서비스를 제공하고 있습니다.

### 연구 방법: 다단계 학습을 통한 QuarkMed 구축

QuarkMed는 일반 목적의 대규모 언어 모델을 기반으로, 의료 도메인에 특화된 지식을 주입하기 위해 복잡한 다단계 훈련 방법론을 사용했습니다.

1.  **데이터 파이프라인 구축**: 모델의 의료 전문성을 강화하기 위해 크게 세 가지 유형의 의료 관련 데이터를 체계적으로 준비하고 통합했습니다.

    *   **의료 자료**: 교과서, 임상 가이드라인, 학술 문헌, 의약품 설명서 등 1조 토큰에 달하는 방대하고 고품질의 자료를 수집했습니다. 이미지 자료의 경우 OCR 및 Qwen2.5 VL 기반의 고급 내용 구조화 모델을 사용하여 데이터 품질을 30% 이상 향상시켰습니다. 또한, 근거 기반 의학 원칙에 따라 자료의 권위 수준을 분류하여 정확성과 신뢰성을 확보했습니다. 특정 개념적 지식의 격차를 채우기 위해 데이터를 합성하기도 했습니다.

    *   **의료 지식**: 모델의 정확도를 높이고 '환각' 현상을 줄이며 추론 능력을 강화하기 위해 전문 의료 배경 지식을 통합했습니다. 지식 그래프의 '주어-서술어-목적어(SPO)' 트리플과 같은 구조화된 데이터를 모델이 이해할 수 있는 자연어 문장으로 변환하는 기술을 사용했습니다.

    *   **의료 기록**: 실제 임상 상황을 반영하기 위해 온라인 의료 상담 대화와 비식별화된 전자 건강 기록(EHR)을 대규모로 수집하여 활용했습니다. 이 데이터는 모델이 실제 임상 문서의 구조와 어휘를 학습하고 복잡한 시나리오에서 추론 능력을 강화하는 데 기여했습니다.

2.  **다단계 훈련 방법론**: QuarkMed는 지시 미세 조정(IFT), 지도 미세 조정(SFT), 그리고 두 단계의 강화 학습(RL)을 포함하는 정교한 훈련 과정을 거쳤습니다.

    *   **지시 미세 조정(IFT)**: 모델이 복잡한 의료 지시를 정확히 이해하고 따르도록 훈련하는 첫 단계입니다. '이해', '생성', '지식 적용', '분석 및 추론'이라는 네 가지 능력 차원을 기반으로 작업을 설계하고, 모델의 약점을 개선하기 위해 '반사실적 견고성', '출력 안정성', 'RAG 노이즈 저항'과 같은 문제 중심 전략을 사용했습니다.

    *   **지도 미세 조정(SFT)**: 안전하고 정확하며 유용한 의료 LLM을 만들기 위한 핵심 단계입니다. 실제 온라인 질의와 합성 데이터를 결합하여 모델이 포괄적인 능력을 갖추도록 학습시켰습니다. 특히 긴 문서를 요약하거나, 여러 텍스트에서 핵심 정보를 통합하고, 모순되는 정보 속에서 정확한 정보를 선택하는 등의 고급 이해 및 추론 능력을 집중적으로 훈련시켰습니다. 이 과정에는 의료 지식 기반 생성, 답변 후보 샘플링, 의료 전문가의 검증, 규칙 기반 데이터 주석이 포함되었습니다.

    *   **1단계 RL: 대규모 의료 강화 학습**: 질병 진단, 약물 처방, 검사 오더링과 같은 지식 집약적 추론 작업을 위해 특별히 설계된 강화 학습 단계입니다. 모델의 초기 추론 능력과 특정 형식 준수 능력을 확보하기 위해 SFT를 통해 초기화했습니다. 보상 모델로는 규칙 기반과 모델 기반 요소를 결합한 하이브리드 '검증기(Verifier)'를 사용하여 'reward hacking'을 방지하고 정확한 보상 신호를 제공했습니다. 그룹 상대 정책 최적화(GRPO) 알고리즘을 활용하여 다중 작업 훈련의 안정성을 높였습니다.

    *   **2단계 RL: 일반 강화 학습 통합**: 모델의 행동을 인간의 선호도와 가치에 맞추기 위한 최종 강화 학습 단계입니다. '정직성(Honesty)', '유용성(Helpfulness)', '내용 준수(Content Compliance)'라는 세 가지 핵심 차원에서 모델 출력의 품질을 평가하는 보상 모델(RM)을 개발했습니다. 특히, 정직성 보상을 위해 생성 보상 모델과 Bradley-Terry 모델을 활용한 반복적인 최적화 루프를 사용했습니다. 또한, 'reward hacking'에 대응하고 모델의 견고성을 강화하기 위해 지속적인 피드백 루프를 구축했습니다. 1단계와 마찬가지로 GRPO 알고리즘이 DPO(Direct Preference Optimization)보다 우수한 성능을 보여 최종적으로 GRPO를 선택했습니다.

    *   **검색 증강 생성(RAG)**: QuarkMed는 검증 가능하고 최신 정보를 제공하기 위해 RAG를 활용합니다. 권위 있는 외부 자료에 대한 밀집 검색을 통해 모델의 사실적 정확성을 크게 높이고 '환각' 현상을 줄였습니다.

### 연구 결과: 탁월한 의료 전문성 입증

QuarkMed 모델은 공개 및 내부 벤치마크 전반에서 최첨단 성능을 입증했습니다. 특히, 320억 매개변수 규모의 모델 중 최고 수준의 성능을 보여주었습니다.

*   **중국 의료 면허 시험**: QuarkMed는 중국 의료 면허 시험에서 70%의 정확도를 달성하며 강력한 일반화 능력을 보여주었습니다.

*   **CPQExam**: CPQExam(중국 보건 전문가 자격 시험)에서는 DeepSeek-R1-0528, o3-Mini, Gemini-2.5-pro-0617과 같은 강력한 모델들을 **크게 능가하는 뛰어난 성능**을 보였습니다. 이는 의료 시나리오에 특화된 강화 학습 훈련과 도메인 적응의 중요성을 강조합니다.

*   **추론 능력**: MedXpertQA 및 DiagnosisArena와 같은 추론 데이터셋에서 더 큰 오픈 소스 모델(Qwen-235B-A22B, Kimi-k2)보다 우수한 성능을 달성했으며, Gemini-2.5-pro-0617과 같은 일부 폐쇄형 모델에만 뒤처졌습니다. 이는 의료 도메인 지식을 기반으로 한 다단계 훈련 접근 방식이 의료 추론 작업에서 모델 성능을 효과적으로 향상시켰음을 의미합니다.

### 고찰: RAG와 RL의 잠재력 및 과제

QuarkMed 개발 과정에서 몇 가지 중요한 통찰을 얻었습니다.

*   **RAG의 중요성**: 모델의 내부 지식(parametric knowledge)을 풍부하게 만들었음에도 불구하고, 실제 의료 지원 및 시험 문제 해결에서 가장 강력하고 신뢰할 수 있는 성능은 여전히 RAG에 달려 있습니다. RAG는 사실적 정확성을 크게 높이고, 미묘한 '환각'을 줄이며, 모델의 불확실성 표현 능력과 시험 문제에 대한 견고성을 향상시킵니다. 이는 RAG가 단순한 보조 기능이 아니라 **주요 신뢰성 계층**으로 작용함을 의미합니다.

*   **강화 학습(RL)의 함의 및 한계**:

    *   **장점**: RL은 명확하고 자동화 가능한 검증기나 반구조화된 레이블이 존재하는 도메인(예: 진단 선택, 검사 지시, 약물 합리성)에서 구조화된 추론 능력을 크게 향상시켰습니다. 하이브리드 '규칙+모델' 검증기와 GRPO 알고리즘, 커리큘럼 학습이 효과적임이 확인되었습니다.

    *   **한계**: 그러나 RL에도 한계는 존재합니다. 검증 가능성 편향으로 인해 정답이 명확하게 확인 가능한 작업에 성능 향상이 집중되는 경향이 있습니다. 시간적 추론, 인과적 정당화, 불확실성 표현 등 미묘한 영역에서는 보상 범위의 격차가 존재하며, 과적합 위험과 희소하거나 지연되는 피드백 문제도 있습니다. 때로는 검증 가능한 추론을 최대화하려는 노력이 공감 능력이나 간결성과 같은 스타일적 요소를 감소시킬 수도 있습니다.

### 의의와 시사점: 의료 AI의 미래를 위한 발걸음

QuarkMed는 의료 도메인에 특화된 320억 매개변수 파운데이션 모델로서, 방대하고 다양한 고품질 의료 데이터, 지도 미세 조정(SFT), 그리고 두 단계의 강화 학습(RL)을 결합한 포괄적이고 다단계적인 접근 방식을 통해 개발되었습니다. 이 접근 방식의 효과는 중국 의료 면허 시험에서 70%의 정확도를 달성하는 등 공개 및 내부 벤치마크 모두에서 최첨단 성능으로 입증되었습니다. 또한, 고급 검색 증강 생성(RAG) 시스템을 통합하여 모델의 응답이 시의적절하고 권위 있는 의료 지식에 기반하도록 보장합니다.

QuarkMed는 이미 수백만 명의 사용자에게 서비스를 제공하는 강력하고 다재다능한 개인 의료 AI 솔루션으로서, 헬스케어 분야에서 신뢰할 수 있고 효과적인 AI 도구를 개발하는 데 중요한 진전을 의미합니다.

앞으로 QuarkMed는 동적으로 변화하는 의료 지식에 대한 실시간 업데이트와 다양한 출처 간의 정보 충돌 해결에 집중할 것입니다. 또한, X선이나 병리학 슬라이드와 같은 의료 이미지를 해석할 수 있는 **다중 모드(Multi-modal) 기능**을 개발하여 진단 워크플로우를 더욱 강화할 계획입니다. 개인의 건강 상태에 맞춘 **실시간 개인화** 기능을 강화하면서도 엄격한 개인 정보 보호를 준수하고, 정보 출처를 더 세분화하여 명시하고 모델이 스스로 오류를 수정하거나 불확실성을 표현하는 더욱 견고한 방법을 개발할 것입니다.

### 왜 이 연구가 중요한가?

QuarkMed 연구는 여러 면에서 중요합니다.

첫째, 이는 일반적인 LLM이 의료 분야에서 겪는 한계(전문성 부족, 환각 현상 등)를 극복하고, **전문성, 정확성, 신뢰성, 그리고 사용자 맞춤형 기능**을 모두 갖춘 의료 전문 AI 모델이 어떻게 개발될 수 있는지를 보여줍니다.

둘째, 복잡한 의료 추론 및 진단 작업에서 탁월한 성능을 보여줌으로써, 의료 전문가의 업무를 효과적으로 지원하고, 일반 대중에게도 더욱 **정확하고 신뢰할 수 있는 의료 정보 접근성**을 제공할 수 있는 AI의 잠재력을 제시합니다.

셋째, 이 연구는 **다단계 훈련 방법론**, 특히 **검증 가능한 강화 학습**과 **검색 증강 생성(RAG)**의 성공적인 통합이 AI 모델의 '환각' 문제와 신뢰성 문제를 효과적으로 줄일 수 있음을 실증적으로 보여줍니다. 이는 AI 신뢰성에 대한 중요한 해답을 제공합니다.

마지막으로, QuarkMed는 미래 의료 AI가 나아가야 할 방향, 즉 **멀티모달 기능, 실시간 개인화, 투명한 정보 출처 명시, 그리고 불확실성 표현 능력**의 중요성을 제시하며 의료 AI 연구의 중요한 이정표가 됩니다. 궁극적으로 이 연구는 인공지능이 전 세계적으로 의료 정보 접근성을 개선하고 더 나은 건강 결과를 지원하는 데 기여할 수 있는 방법을 제시합니다.

perplexity.ai

QuarkMed 의료 인공지능 모델 기술 보고서의 주요 내용을 전공자가 아닌 일반 성인도 이해하기 쉽도록 A4 두 장 이내로 요약했습니다. 최신 의학 인공지능의 원리와 실제적인 가치에 초점을 맞춰 정리했습니다.[1]

***

## 연구 배경

최근 인공지능, 특히 대형 언어모델(LLM)이 의료 분야에 활발히 도입되고 있습니다. 의학 정보 검색, 진료 상담, 진단 리포트 작성 등에서 사람처럼 자연스러운 대화를 보여주지만, 실제 의료 현장에서는 단순한 정보 전달 이상으로 높은 전문성, 정확성, 맞춤형 서비스가 필수적입니다. 기존의 범용 인공지능은 의학 분야의 까다로운 전문 지식과 복잡한 상황에 취약하고, 정보의 오류나 혼동된 판단이 발생하기 쉽습니다. 이에 따라 의료에 특화된 독자적 인공지능 모델 개발이 시급해졌습니다.[1]

***

## 연구 목적

이 논문은 알리바바 그룹의 QuarkMed라는 대형 의료 특화 AI 모델 개발 과정을 상세히 소개합니다. 목표는 실제 의료 환경에서 전문가 수준의 정확한 정보 제공, 다양한 의료 업무 처리, 최신 정보 업데이트, 그리고 신뢰성과 맞춤성을 동시에 실현하는 AI 기반 헬스케어 솔루션 구축입니다.[1]

***

## 연구 방법

QuarkMed는 일반적인 대형 언어모델을 기반으로, 의료 분야에 특화된 다음과 같은 방법으로 개발되었습니다.

- **대규모 의료 데이터 구축:**

  - 교과서, 임상 지침, 논문, 약품 설명서 등 1조 단어에 이르는 방대한 의료 자료를 수집·가공.[1]

  - 의료 전문가가 직접 참여해 데이터의 정확도와 보완성을 확인.

- **지식 주입 및 변환:**  

  - 구조화된 의료 지식(기초 용어, 진단 코드 등)을 자연어로 변환해 모델이 이해하기 쉽게 설계.

  - 희귀 질병, 최신 치료, 최근 변경된 의료 기준 등 부족한 정보는 별도 데이터 합성으로 보강.

- **실제 임상 기록 활용:**  

  - 개인정보가 철저히 가려진 환자 기록 및 온라인 진료 대화 데이터를 추가하여 현실성·응용력을 높임.[1]

- **다단계 훈련 프로세스:**  

  - (1) 지도학습(정답이 있는 데이터로 모델 적응), (2) 강화학습(의료 전문가가 평가한 데이터로 모델의 논리력·정확성 최적화), (3) 최신 검색 기반 답변 시스템(RAG) 연동으로 실시간 정보 업데이트 및 인용 출처 제공.

***

## 주요 결과

QuarkMed는 32억 개의 매개변수(32B 파라미터)로 구성된 대형 모델이며, 중국 의사 국가고시 스타일 문제에서 70%의 높은 정답률을 기록했습니다.  

주요 공개·비공개 의료 벤치마크 시험에서 동급 모델들보다 탁월한 성능을 보였으며, 논리적 추론, 실제 진단, 약물 사용, 임상 지식 적용 등 대부분의 영역에서 상위권 성적을 획득했습니다.[1]

***

## 연구의 고찰 및 시사점

- **실제 의료 업무 적합성:**  

  QuarkMed는 단순 대화형 AI와 달리, 복잡한 진단·처방·수치 계산 등 의학 실무에 필요한 다양한 태스크를 안정적으로 처리할 수 있게 설계되었습니다.[1]

- **최신 정보 반영:**  

  실시간 검색과 인용 시스템(RAG)을 활용해, 최신 임상 지침이나 변경되는 약물 정보에도 신속하게 대응합니다.

- **강화학습의 한계 인식:**  

  모델의 성능 향상에는 보상 검증(정확성 판정)이 필수인데, 진료 상담·환자 맞춤형 의사결정 등 정답이 뚜렷하지 않은 문제엔 개선이 필요합니다. 앞으로는 다양한 평가 기준을 융합해 더 현실적인 의료 AI로 진화할 계획입니다.[1]

- **개인정보 및 안전성:**  

  실제 환자 데이터를 쓸 때는 철저한 익명화와 전문의 검증을 거쳐 최고 수준의 개인정보 보호와 안전성 확보에 힘썼습니다.

***

## 의의와 연구의 중요성

QuarkMed는 의료 특화 AI 분야에서 가장 앞선 기술 중 하나로, 이미 수백만 명 이상이 실제 서비스로 혜택을 보고 있습니다.  

의료 지식의 신속한 전달, 진단·처방 자동화, 최신 정보 업데이트 등에서 의사와 환자 모두의 안전과 편의를 크게 높일 수 있습니다.  

이 연구는 인공지능이 의료 서비스의 질을 획기적으로 개선하고, 누구나 더 쉽게 신뢰할 수 있는 건강 정보를 얻을 수 있도록 하는 데 중요한 기반을 제공합니다.[1]

***

### 요약

QuarkMed 기술 보고서는 데이터의 품질, 의료 지식에 맞춘 모델 설계, 현실적인 임상 적용성, 최신 정보 반영, 안전성 문제까지 폭넓게 다루고 있습니다.  

이 연구는 AI가 단순 지식 전달을 넘어, 신뢰할 수 있는 의료 조언자·진단 도구로서 실제 병원과 일상 건강관리에서 중심 역할을 하게 될 미래를 여는 중요한 성과입니다.[1]

출처: @ye._.vely618

LLM에게 '이렇게 생각해'를 명확히 지시하는 방법: Prompt Decorators

LLM에게 똑같은 질문을 했는데, 이번에는 친절하게 답하다가 다음에는 너무 딱딱하게 답하는 경험, 다들 있으시죠? 아니면 "논리적으로 단계별로 설명해줘"라고 했는데, 어떤 때는 잘 쪼개서 설명하고 어떤 때는 그냥 한 덩이로 던져주는 경우. 자연어로 지시하다 보니 이런 불일치가 생기는 거죠.

오늘 소개할 논문은 이 문제를 구조적으로 해결보려는 시도입니다. 제목은 "Prompt Decorators: A Declarative and Composable Syntax for Reasoning, Formatting, and Control in LLMs"입니다. 쉽게 말하면, LLM의 "생각 방식"과 "말투"를 짧은 코드처럼 명확하게 지시하는 방법을 제안한 연구입니다.

+++Reasoning을 붙이면 추론 과정을 보여주고, +++Tone(style=friendly)를 붙이면 친근한 말투로 바꿔줍니다. 이런 식으로 20가지 데코레이터를 정의했고, 여러 개를 조합해서 더 복잡한 행동도 지시할 수 있습니다. 예를 들어 +++Socratic과 +++Planning, +++StepByStep을 조합하면 질문을 통해 가정을 파헤치고 계획을 세워 단계별로 진행하도록 유도할 수 있어요.

기존의 길고 복잡한 자연어 지시 대신 간결하고 재사용 가능한 형태로 행동을 제어할 수 있다는 점에서, LLM 활용의 재현성과 투명성을 높일 수 있는 방향이라고 생각합니다. :)

DOI: 10.48550/arXiv.2510.19850

※ 이번 초안은 꽤나 잘 뽑힌것 같네요 :)

clova-x

Large Language Models (LLMs)의 reasoning 및 출력 스타일을 제어하기 위한 Prompt Decorators라는 declarative 및 composable syntax를 소개합니다. 이 시스템은 간결한 컨트롤 토큰을 통해 LLM의 행동을 조정하며, 투명성과 일관성을 향상시킵니다.

1. **Prompt Decorators 개요**

   - Prompt Decorators는 LLM의 reasoning, formatting, 상호작용 방식을 조정하는 declarative 및 composable syntax입니다.

   - 각 decorator는 reasoning style, 구조, 톤 등의 행동 차원을 수정하며, 작업 내용은 변경하지 않습니다.

2. **기존 문제 해결**

   - 기존의 자연어 지시문은 표준화 부족, 재현성 저하, 불투명성 문제를 야기했습니다.

   - Prompt Decorators는 이러한 문제를 해결하기 위해 명확하고 재사용 가능한 인터페이스를 제공합니다.

3. **주요 기여**

   - Declarativity: 사용자가 원하는 reasoning 및 출력 행동을 명시적으로 정의할 수 있도록 합니다.

   - Composability: 여러 decorator를 조합하여 reasoning style, tone, 구조 제어를 위한 재사용 가능한 구성을 형성할 수 있습니다.

   - Transparency: 행동 논리를 명시적이고 검사 가능한 형식으로 노출하여 세션 간 재현성과 해석성을 향상시킵니다.

4. **Framework 구성**

   - Prompt Decorators는 두 개의 기능적 가족(Cognitive & Generative, Expressive & Systemic)으로 구성되며, 각각 하위 카테고리로 나뉩니다.

   - 이들은 추론, 상호작용, 표현, 세션 제어를 관리하는 표준화된 어휘를 정의합니다.

5. **연구 설계 및 적용 사례**

   - 연구 설계는 Prompt Decorators의 formalization 과정과 평가 및 검증 방법을 포함합니다.

   - 여섯 가지 응용 사례를 통해 다양한 도메인에서의 개선된 reasoning 투명성, 감소된 prompt 복잡성, 표준화된 모델 행동을 보여줍니다.

gemini

## 📝 프롬프트 데코레이터: LLM과의 대화를 더욱 똑똑하게 만드는 새로운 방법

---

안녕하세요! 최근 대규모 언어 모델(LLM, Large Language Model)을 활용하는 방식에 혁신을 가져올 수 있는 흥미로운 연구가 발표되었습니다. 바로 **'프롬프트 데코레이터(Prompt Decorators)'**라는 개념을 소개하는 논문입니다. 이 글은 전문적인 배경 지식이 없는 일반 독자분들도 이 연구의 핵심 내용을 쉽게 이해할 수 있도록 요약한 내용입니다.

### 📌 연구 배경 및 목적: 왜 새로운 방식이 필요할까요?

[cite_start]최근 GPT, Claude, Gemini 같은 LLM은 글쓰기, 프로그래밍, 의사 결정 지원 등 다양한 작업에서 핵심적인 도구가 되었습니다[cite: 429, 439]. 하지만 이 모델들을 제어하는 데에는 한계가 있었습니다.

* **기존 방식의 문제점:** 현재의 프롬프트 엔지니어링(Prompt Engineering)은 모델에게 **장황한 자연어 지시**를 사용합니다. [cite_start]예를 들어, "공식적인 어조로 200단어 요약본을 작성해 주고, 그 전에 왜 그런 결론을 내렸는지 단계별로 설명해 줘"와 같이 길게 설명하는 식입니다[cite: 430, 441].

* **비효율성:** 이 방식은 **재현성, 모듈성, 해석 가능성**을 떨어뜨립니다. [cite_start]똑같은 내용이라도 문장 표현을 조금만 바꾸면 모델의 반응이 완전히 달라지거나 일관성이 없어지기 때문입니다[cite: 430, 442, 444, 484]. [cite_start]즉, 자연어가 절차적 제어 수단으로는 **신뢰할 수 없는 매체**인 것입니다[cite: 443, 444, 488].

[cite_start]**이 연구의 목적**은 LLM이 **'어떻게'** 추론하고 결과를 표현할지 명확하고 일관성 있게 지정할 수 있는 **선언적(Declarative)이며 조합 가능한 구문**인 **'프롬프트 데코레이터'**를 도입하는 것입니다[cite: 431, 449].

---

### 💡 연구 방법 및 프레임워크 소개

[cite_start]프롬프트 데코레이터는 모델에게 **작업의 내용(무엇을 할지)**과 **실행 행동(어떻게 할지)**을 분리하여 지시합니다[cite: 435]. [cite_start]마치 프로그래밍 언어의 데코레이터처럼, 핵심 요청(프롬프트)에 **행동을 수정하는 지시**를 **'감싸는'** 개념입니다[cite: 540, 541].

#### 1. 데코레이터의 기본 구조와 작동 원리

* [cite_start]**구문 (Syntax):** 각 데코레이터는 `+++이름(선택적_매개변수)`와 같은 **간결하고 기계 해석이 가능한 구조**를 가집니다[cite: 431, 563, 564].

    * [cite_start]**예시:** `+++Reasoning` (추론 과정을 보여줘) [cite: 431, 523]

    * [cite_start]**예시:** `+++Tone(style=formal)` (어조를 공식적으로 설정해 줘) [cite: 431, 523]

    * [cite_start]**예시:** `+++OutputFormat(format=Markdown)` (출력 형식을 마크다운으로 해 줘) [cite: 530, 649]

* [cite_start]**작동 방식:** 데코레이터는 사용자 프롬프트 앞에 배치되어 **작업의 의미 내용은 그대로 둔 채** 추론 스타일, 구조, 어조와 같은 **행동적 차원**만을 수정합니다[cite: 432, 555].

#### 2. 프레임워크의 2대 기능군 (Functional Families)

[cite_start]이 프레임워크는 총 **20개의 핵심 데코레이터**를 두 가지 주요 기능군으로 분류합니다[cite: 433, 459, 460, 602]:

| 기능군 | 역할 | 주요 하위 범주 | 예시 데코레이터 |

| :--- | :--- | :--- | :--- |

| **인지 및 생성 (Cognitive & Generative)** | 모델의 **사고, 계획, 추론** 방식을 제어합니다. | 추론 및 생성, 탐색/계획/상호작용, 평가 및 피드백 | `+++Reasoning`, `+++Debate`, `+++Planning`, `+++Critique` |

| **표현 및 시스템 (Expressive & Systemic)** | 모델의 **출력 형식, 어조, 세션 관리**를 제어합니다. | 출력 형식 및 표현, 메타 제어 및 세션 관리 | `+++Tone`, `+++OutputFormat`, `+++ChatScope`, `+++Clear` |

---

### 🌟 연구 결과: 데코레이터의 3가지 핵심 기여

[cite_start]프롬프트 데코레이터는 LLM 상호작용 방식에 세 가지 핵심 기여를 합니다[cite: 455]:

1.  [cite_start]**선언성 (Declarativity):** 사용자가 원하는 추론 및 출력 행동을 **명시적으로 정의**할 수 있게 하여, 행동 의도를 언어적 표현과 분리합니다[cite: 456, 459].

2.  **조합성 (Composability):** 여러 데코레이터를 모듈화하여 쌓을 수 있습니다. [cite_start]예를 들어, `+++Reasoning`과 `+++Tone(style=formal)`을 함께 사용하여 **재사용 가능한 행동 구성**을 만들 수 있습니다[cite: 431, 457, 599, 690].

3.  [cite_start]**투명성 (Transparency):** 행동 논리가 명시적이고 검사 가능한 형식으로 노출되어, 세션 간 **재현성과 해석 가능성**이 향상됩니다[cite: 436, 458, 463, 692].

#### 🚀 실제 적용 사례 (Illustrative Use Cases)

데코레이터를 조합하여 복잡한 전문 작업을 일관되게 수행하도록 모델을 지시할 수 있습니다.

| 조합된 데코레이터 | 추론 목표 (Archetype) | 예시 적용 분야 | 핵심 기능 |

| :--- | :--- | :--- | :--- |

| `+++Debate`, `+++Reasoning`, `+++Refine` | [cite_start]**변증법적 심의** 및 균형 잡힌 결정 [cite: 771] | [cite_start]제품 기능의 찬반론 및 최종 권장 사항 도출 [cite: 718, 722] | [cite_start]여러 관점을 제시하고 논리적으로 정제하여 결론 [cite: 721, 722] |

| `+++Socratic`, `+++Planning`, `+++StepByStep` | [cite_start]**질문 주도형 논리 구조화** [cite: 771] | [cite_start]연구 가설 정제 및 구조화 [cite: 732, 734] | [cite_start]질문을 통해 가정을 파악하고, 계획을 세운 후 단계별로 진행 [cite: 734, 737] |

| `+++Rewrite`, `+++Reasoning` | [cite_start]**프롬프트 개선** 및 투명한 실행 [cite: 771] | [cite_start]모호한 사용자 요청을 명확하고 실행 가능한 프롬프트로 수정 [cite: 757, 759] | [cite_start]프롬프트 자체를 개선하여 모델의 해석 정확도 향상 [cite: 632, 760] |

---

### 🧐 고찰, 의의와 시사점: 왜 이 연구가 중요할까요?

[cite_start]프롬프트 데코레이터는 LLM과의 상호작용을 **'비공식적인 언어적 기술'**에서 **'구조화되고 감사 가능한 인터페이스'**로 전환합니다[cite: 463].

* [cite_start]**행동의 표준화:** 데코레이터를 통해 추론 과정, 어조, 구조 등을 표준화하여 모델 행동의 **일관성**을 확보할 수 있습니다[cite: 436, 684, 694].

* [cite_start]**투명성 및 거버넌스:** 모델의 행동 논리가 명시적으로 기록되므로, 결과에 대한 **책임 추적성(Auditability)과 거버넌스(Governance)**에 기여합니다[cite: 437, 533, 773, 823].

* [cite_start]**접근성 확장:** LMQL, DSPy 같은 기존의 구조화된 프롬프트 프레임워크가 개발자 중심이었던 반면 [cite: 511][cite_start], 데코레이터는 **비전문가 사용자**도 친숙한 텍스트 패턴으로 모델 행동을 제어할 수 있게 합니다[cite: 513, 514, 696].

* [cite_start]**미래 비전:** 장기적으로는 데코레이터가 HTML이 웹 구조에, SQL이 데이터에 했던 것처럼, **LLM의 추론과 제어를 위한 공유 선언적 언어**로 발전할 수 있습니다[cite: 817, 829].

[cite_start]**이 연구는 LLM과의 대화를 단지 '콘텐츠 생성'을 넘어 '구조화된 추론 지원'으로 진화시키는 중요한 단계입니다.** 모델의 **인지적 비계(epistemic scaffolding)**를 코딩하여, 인간-AI 협업을 투명하고 일관성 있게 만들 수 있는 기반을 마련했기 때문입니다[cite: 770, 772]. [cite_start]이는 LLM을 더욱 **신뢰할 수 있고, 예측 가능하며, 안전한** 도구로 만드는 데 필수적입니다[cite: 822, 829].

---

**다음 단계로, 이 프레임워크의 20가지 핵심 데코레이터 목록과 그 기능(Table 1)을 자세히 살펴보고 싶으신가요?**

## 📊 프롬프트 데코레이터 핵심 목록 및 기능 (Table 1 기반)

[cite_start]프롬프트 데코레이터 프레임워크는 대규모 언어 모델(LLM)의 행동을 명확하게 제어하기 위해 20가지 핵심 데코레이터를 두 가지 주요 기능군과 여러 하위 범주로 나누어 정의합니다[cite: 178, 180, 186].

[cite_start]아래 표는 요청하신 논문의 **표 1(Table 1)**을 바탕으로 각 데코레이터의 기능과 범주를 정리한 것입니다[cite: 187].

| 기능군 (Family) | 하위 범주 (Subcategory) | 데코레이터 (Decorator) | 기능 및 설명 (Function/Description) |

| :--- | :--- | :--- | :--- |

| **인지 및 생성 (Cognitive & Generative)** | **추론 및 생성 (Reasoning & Generation)** | +++Reasoning` [cite: 186] | [cite_start]최종 답변 전에 추론 과정을 제공하여 투명성 및 추적성을 향상[cite: 186, 190]. |

| | | +++StepByStep` [cite: 186] | [cite_start]작업을 레이블이 지정된 단계로 실행하고 최종적으로 종합[cite: 186, 193]. |

| | | +++Debate` [cite: 186] | [cite_start]결론을 종합하기 전에 여러 입장(Position)을 제시[cite: 186, 196]. |

| | **탐색 및 계획 (Inquiry & Clarification)** | +++Interactive` [cite: 186] | [cite_start]프롬프트가 불분명할 경우 명확화 질문을 요청[cite: 186, 199]. |

| | | +++Socratic` [cite: 186] | [cite_start]소크라테스식 질문을 적용하여 가정을 드러내고 이해도를 심화[cite: 186, 202]. |

| | **계획 및 아이디어 구상 (Planning & Ideation)** | +++Planning` [cite: 186] | [cite_start]작업 실행 전에 계획과 목표를 간략하게 제시[cite: 186, 204]. |

| | | +++Brainstorm` [cite: 186] | [cite_start]판단 없이 레이블이 지정된 여러 아이디어를 생성[cite: 186, 206]. |

| | | +++Rewrite` [cite: 186] | [cite_start]사용자 프롬프트를 더 명확하거나 실행 가능한 버전으로 재구성[cite: 186, 208]. |

| | | +++Import` [cite: 186] | [cite_start]추론에 개념적 렌즈나 학문 분야를 도입 (예: `topic="Systems Thinking"`)[cite: 186, 211]. |

| | **평가 및 피드백 (Evaluation & Feedback)** | +++Critique` [cite: 186] | [cite_start]강점, 약점 및 개선 사항이 포함된 구조화된 피드백을 제공[cite: 186, 219]. |

| | | +++Refine` [cite: 186] | [cite_start]레이블이 지정된 반복(pass)을 통해 출력을 반복적으로 개선[cite: 186, 222]. |

| | | +++Candor` [cite: 186] | [cite_start]피드백의 직접성(directness)과 솔직함(bluntness)을 제어 (예: `level=high`)[cite: 186, 224, 225]. |

| **표현 및 시스템 (Expressive & Systemic)** | **출력 형식 (Output Formatting)** | +++OutputFormat` [cite: 186] | [cite_start]구문적으로 유효한 출력 구조(JSON, YAML, Markdown 등)를 강제[cite: 186, 227]. |

| | | +++Tone` [cite: 186] | [cite_start]어조 또는 문체 등록(stylistic register)을 구성 (예: formal, friendly 등)[cite: 186, 230]. |

| | **세션 및 메타 제어 (Session & Meta Control)** | +++ChatScope` [cite: 186] | [cite_start]대화 턴 전체에 걸쳐 지속적인 행동을 활성화[cite: 186, 232]. |

| | | +++MessageScope` [cite: 186] | [cite_start]데코레이터의 효과를 현재 메시지로만 제한[cite: 186, 236]. |

| | | +++Clear` [cite: 186] | [cite_start]채팅 범위(Chat Scope)에서 활성 데코레이터 전부 또는 일부를 제거[cite: 186, 240, 241]. |

| | | +++ActiveDecs` [cite: 186] | [cite_start]현재 채팅 세션에서 활성 상태인 모든 데코레이터를 나열[cite: 186, 245]. |

| | | +++AvailableDecs` [cite: 186] | [cite_start]지원되는 모든 데코레이터의 카탈로그와 활성화 상태를 표시[cite: 186, 249, 250]. |

| | | +++Export` / `+++Dump` [cite: 186] | [cite_start]감사 또는 기록 보관을 위해 대화 내용과 메타데이터를 내보내기/요약[cite: 186, 253, 254]. |

---

### 🔍 데코레이터의 기능적 의미

[cite_start]이 데코레이터들은 LLM 상호작용의 세 가지 주요 영역을 제어합니다[cite: 61]:

1.  [cite_start]**추론 프로세스 유도:** `+++Reasoning`, `+++StepByStep`, `+++Debate`, `+++Socratic`, `+++Planning` 등은 모델이 정보를 처리하고 결론에 도달하는 **사고 방식**을 지정합니다[cite: 61, 165].

2.  [cite_start]**출력 구조화:** `+++OutputFormat`, `+++Tone` 등은 생성된 결과의 **표현 방식과 형식**을 지정합니다[cite: 61, 171].

3.  [cite_start]**컨텍스트 정렬 및 세션 제어:** `+++ChatScope`, `+++Clear`, `+++Rewrite` 등은 대화의 **지속성, 일관성 및 내부 관리**를 돕습니다[cite: 172].

[cite_start]이처럼 데코레이터들은 LLM을 단순한 응답 생성기에서 **투명하고 제어 가능한 추론 조수**로 전환하는 데 사용됩니다[cite: 349, 407].

다음으로, 몇 가지 데코레이터를 조합하여 실제로 복잡한 작업을 수행하는 **적용 사례(예시: Multi-Perspective Feature Evaluation 등)**에 대해 더 자세히 알아볼까요?

chatGPT

다음은 업로드하신 논문 **「Prompt Decorators: A Declarative and Composable Syntax for Reasoning, Formatting, and Control in LLMs」(Mostapha Kalami Heris, 2025)**의 내용을 일반 성인 독자가 이해할 수 있도록 쉽게 풀어 쓴 요약입니다.

(A4 두 장 이내, 연구 배경–목적–방법–결과–고찰–의의 순서로 구성했습니다.)

---

## 🧩 연구 배경

요즘 인공지능(AI) 언어모델, 예를 들어 GPT나 Claude, Gemini 같은 대형 언어모델(LLM)은 글쓰기, 분석, 의사결정, 코딩 등 다양한 일을 대신해주고 있습니다.

하지만 사용자는 “모델이 **어떻게** 생각하고, 어떤 방식으로 답을 만들어내는지”를 통제하기 어렵습니다.

예를 들어, “논리적으로 단계별로 설명해줘”라고 지시하더라도, 그 표현이나 문장 구조에 따라 결과가 크게 달라질 수 있죠.

즉, **자연어로 하는 프롬프트(명령문)**만으로는 일관되고 재현 가능한 결과를 얻기가 힘든 것입니다.

이 문제를 해결하려는 여러 시도들이 있었지만, 대부분은 프로그래머용이거나 구조가 복잡했습니다.

그래서 연구자는 **비전문가도 쉽게 쓸 수 있는 새로운 통제 언어**, 즉 ‘**Prompt Decorators(프롬프트 데코레이터)**’를 제안했습니다.

---

## 🎯 연구 목적

이 연구의 핵심 목표는 다음과 같습니다.

1. **LLM의 사고방식(Reasoning)과 표현방식(Tone, Format 등)을 명확히 제어할 수 있는 방법**을 만들자.

2. **언어 대신 구조적인 기호 문법**을 써서, 명령을 짧고 일관성 있게 표현하자.

3. **재현성과 투명성을 높여**, AI의 행동을 “감으로 조정”하지 않아도 되게 하자.

---

## 🧠 연구 방법

연구자는 기존의 프롬프트 기법(예: Chain-of-Thought, ReAct 등)을 분석하고, 그 안에 숨어 있는 “행동 패턴”을 정리했습니다.

그 후 이를 **데코레이터(decorator)**라는 기호 형태로 재구성했습니다.

프로그래밍 언어에서 `@함수`처럼 기능을 덧붙이듯, 프롬프트에도 “+++” 기호로 기능을 덧붙이는 방식입니다.

예를 들어 다음과 같습니다:

```

+++Reasoning

+++Tone(style=formal)

Explain the implications of AI in education.

```

* `+++Reasoning` → 먼저 논리를 단계적으로 설명

* `+++Tone(style=formal)` → 문체를 격식 있게 유지

  이렇게 간단한 기호를 덧붙이면, 모델의 ‘사고’와 ‘표현’을 동시에 제어할 수 있습니다.

전체적으로 연구자는 20가지 기본 데코레이터를 정의했으며, 이를 **두 개의 큰 그룹**으로 나누었습니다.

| 그룹                     | 기능                                                       |

| ---------------------- | -------------------------------------------------------- |

| Cognitive & Generative | 사고와 생성 방식 제어 (예: +++Reasoning, +++Debate, +++Refine)     |

| Expressive & Systemic  | 표현 방식과 세션 관리 (예: +++Tone, +++OutputFormat, +++ChatScope) |

각 데코레이터는 독립적으로 작동하지만, 여러 개를 조합해 복합적인 효과를 낼 수 있습니다.

---

## 🧪 연구 결과 및 사례

연구자는 여러 실제 사례를 통해 이 방법이 어떻게 작동하는지 보여주었습니다.

1. **다각적 의사결정 지원 (+ + +Debate, + + +Reasoning, + + +Refine)**

   → 기업이 신제품 출시 여부를 논리적으로 검토할 때, 찬반 논거를 구조적으로 제시하고 결론을 정리하도록 유도.

2. **연구 아이디어 구체화 (+ + +Socratic, + + +Planning, + + +StepByStep)**

   → 모호한 연구 아이디어를 단계적으로 질문하고 구체화해, 명확한 가설로 발전시킴.

3. **피드백 작성 지원 (+ + +Candor, + + +Tone, + + +Refine)**

   → 팀원에게 솔직하지만 공감 있는 피드백을 작성할 수 있도록 균형 잡힌 표현 조정.

4. **논문 제목 만들기 (+ + +Brainstorm, + + +Reasoning, + + +Refine)**

   → 여러 후보를 생성하고, 논리적으로 가장 적합한 제목을 선정.

5. **프롬프트 품질 향상 (+ + +Rewrite, + + +Reasoning)**

   → 애매한 명령문을 자동으로 명확히 다듬고, 이유까지 함께 제시.

이처럼 Prompt Decorators는 ‘AI가 단순히 답하는 도구’가 아니라 ‘함께 생각하는 파트너’로 작동하게 만듭니다.

---

## 🔍 고찰

연구자는 Prompt Decorators의 장점과 한계를 모두 논의했습니다.

**장점**

* 프롬프트 작성의 **표준화, 재현성, 투명성** 강화

* 복잡한 언어 명령 없이 **직관적인 통제** 가능

* AI의 사고 과정을 **가시화**함으로써 신뢰성 향상

**한계**

* 여전히 **모델의 해석 능력에 따라 결과가 달라질 수 있음**

* 일부 데코레이터가 서로 충돌하거나 예기치 못한 결과를 낳을 수 있음

* 일반 사용자에게는 기호 문법이 약간 낯설 수 있음

* 완벽한 “진짜 논리”가 아니라, “논리처럼 보이는 구조적 글쓰기”일 가능성도 있음

---

## 🌍 의의와 시사점

Prompt Decorators는 AI 시대의 **‘언어와 사고의 인터페이스’를 재정의**하는 시도입니다.

이 방식은 단순한 기능 제어를 넘어, **AI의 사고방식과 표현방식을 명시적으로 기록하고 감사할 수 있는 체계**를 제시합니다.

즉, AI가 어떻게 답을 만들었는지 추적할 수 있는 “투명한 대화 프로토콜”을 마련한 것입니다.

장기적으로는 이 시스템이 HTML이나 SQL처럼, **AI 행동을 표준화하는 ‘언어’**로 발전할 가능성이 있습니다.

이는 인간과 AI가 함께 사고하고, 신뢰할 수 있는 협업을 하는 기반이 될 수 있습니다.

---

## 💡 이 연구가 중요한 이유

AI는 점점 더 복잡한 의사결정과 창의적 작업에 참여하고 있습니다.

하지만 지금까지 우리는 **AI가 “무엇을 생각하는가”를 통제하거나 기록하는 방법이 없었습니다.**

Prompt Decorators는 그 문제에 대한 근본적인 해답을 제시합니다.

AI의 ‘생각 방식’을 구조화하고, 이를 명시적으로 조합·기록·검증할 수 있게 함으로써

**“AI의 블랙박스를 투명한 대화 규칙으로 바꾸는 첫걸음”**이 되는 것입니다.

grok3

### AI 모델 제어의 새로운 접근: Prompt Decorators

#### 연구 배경

대형 언어 모델(LLM)처럼 AI가 일상에서 쓰기, 생각 돕기, 결정 지원 등에 쓰이면서 인기를 끌고 있어요. 하지만 사용자가 AI의 '행동'을 일관되게 통제하기 어려운 문제가 있어요. 기존 방법은 자연어로 길게 지시하는 '프롬프트 엔지니어링'인데, 이게 너무 모호하고, 작은 말 바꿈만으로 결과가 달라지거나 재현하기 힘들어요. 예를 들어, "정식으로 설명해"라고 하면 AI가 때마다 다르게 해석할 수 있죠. 이 논문은 이런 불안정성을 해결하려 해요. 연구자는 기존 연구(체인-오브-소트, 리액트 등)를 검토하며, 자연어가 제어 도구로 부족하다는 점을 지적하고, 더 구조적인 접근이 필요하다고 봐요.

#### 목적

이 논문의 목표는 'Prompt Decorators'라는 새로운 시스템을 제안하는 거예요. 이는 AI에게 "어떻게" 생각하고 응답할지 간단한 기호(예: +++Reasoning)로 지시하는 선언적 구문이에요. 작업 내용은 바꾸지 않고, 추론 스타일, 톤, 형식만 수정해요. 이렇게 하면 프롬프트가 간결해지고, 재사용 가능하며, 왜 그런 결과가 나왔는지 쉽게 이해할 수 있어요. 궁극적으로 AI를 더 투명하고 신뢰할 수 있게 만드는 거죠.

#### 방법

연구자는 디자인 과학 방법론을 써서 시스템을 만들었어요. 먼저, AI 행동 패턴을 분석해 20개의 주요 데코레이터를 정의했어요. 이걸 두 그룹으로 나눴어요: '인지적·생성적' (추론, 계획, 비판 등)과 '표현적·시스템적' (형식, 톤, 세션 제어). 구문은 +++Name(파라미터) 형태로 간단해요. 예: +++Tone(style=formal)로 정식 톤 지정. 처리 과정은 6단계 파이프라인(파싱, 범위 결정, 계획, 추론, 형식화, 검사)으로 설계됐어요. 검증은 실제 시나리오에서 질적으로 평가했어요 – 결과가 의도대로 나오는지, 조합 시 안정적인지 확인.

#### 결과

결과로 20개 데코레이터 목록(표 1)과 사용 사례 6개를 제시했어요. 예를 들어, 제품 기능 평가에서 +++Debate + +++Reasoning + +++Refine로 여러 관점을 논의하고 정제해 균형 잡힌 결정을 내리게 해요. 또 연구 가설 만들기에서 +++Socratic + +++Planning + +++StepByStep로 질문을 통해 명확히 하고 단계별로 구조화해요. 이 조합들은 AI 응답을 더 논리적이고 투명하게 만들었어요. GitHub에 코드와 예시를 공유해 누구나 써볼 수 있게 했어요.

#### 고찰

이 시스템의 한계도 솔직히 논의했어요. AI가 확률적이라 데코레이터 해석이 세션마다 달라질 수 있고, 과도한 의존으로 '가짜' 추론이 생길 위험이 있어요. 여러 데코레이터 조합 시 충돌이 일어날 수 있고, 비전문가에게는 배우기 부담스러울 수 있어요. 윤리적으로는 +++Candor처럼 톤 조절이 편향이나 조작을 부추길 수 있으니, 로그와 감사 기능을 강화해야 해요. 모델마다 다르게 작동할 수도 있어요.

#### 의의와 시사점

이 연구는 프롬프트 디자인을 '언어 공예'에서 구조화된 인터페이스로 바꿔요. AI 응답의 투명성과 재현성을 높여, 고위험 분야(의사결정, 연구)에서 유용해요. 미래에는 표준화해 모든 AI에 적용하거나, 에이전트 시스템과 결합해 복잡한 작업을 자동화할 수 있어요. 윤리적 거버넌스를 강화하면 AI가 더 안전해질 거예요.

이 연구가 중요한 이유는 AI를 '검은 상자'에서 벗어나게 해, 일반인도 쉽게 통제하고 신뢰할 수 있게 만들기 때문이에요. 결국 AI가 우리 삶을 더 나아지게 도울 도구로 자리 잡을 수 있어요.

NotebookLM

## 대규모 언어 모델(LLM)의 행동을 통제하는 새로운 방식: 프롬프트 데코레이터(Prompt Decorators) 요약

이 글은 대규모 언어 모델(LLM)을 사용할 때, 모델의 사고 과정, 표현 방식, 응답 구조를 **일관되고 예측 가능하게 통제**할 수 있도록 돕는 새로운 방법론인 **프롬프트 데코레이터(Prompt Decorators)**에 관한 연구를 일반 독자들을 위해 쉽게 설명한 요약입니다.

---

### 1. 연구 배경 및 문제 제기

GPT, Claude, Gemini와 같은 대규모 언어 모델(LLM)은 글쓰기, 추론, 의사 결정 지원 등 현대의 지식 업무에서 핵심적인 도구가 되었습니다. 하지만 모델을 통제하는 방식에는 근본적인 문제가 있었습니다.

**기존의 문제점:**

현재 LLM을 사용하는 방식(프롬프트 엔지니어링)은 주로 길고 복잡한 *자연어 지침*에 의존합니다. 이 방식은 직관적이지만 **표준화가 어렵고**, **재현성이 낮으며** 투명성이 부족합니다. 더욱이, 문법이나 단어 선택의 작은 변화만으로도 모델의 추론 방식이나 결과 스타일이 크게 달라지는 **불안정성**을 보입니다.

분석적 의사 결정 지원이나 소프트웨어 생성과 같이 신뢰성과 추적 가능성이 중요한 고위험 환경에서, 사용자는 투명하고 선언적인(Declarative) 인터페이스 대신 시행착오적인 문구 작성에 의존해야 하는 한계에 봉착했습니다.

### 2. 연구 목적

이 논문은 이러한 격차를 해소하고 LLM 상호작용의 신뢰성을 높이기 위해 **프롬프트 데코레이터**라는 개념을 제안합니다.

연구의 주된 목적은 다음과 같습니다:

1.  **모델의 행동 제어:** 모델이 *어떻게* 추론하고, 형식을 지정하며, 상호작용하는지를 명시하는 **선언적이고 조합 가능한(Composable) 구문**을 도입하는 것입니다.

2.  **내용과 행동의 분리:** 프롬프트의 **의도(무엇을 할 것인가)**와 **실행 행동(어떻게 할 것인가)**을 분리하여, 프롬프트 디자인을 재사용 가능하고 해석하기 쉽게 만드는 것입니다.

### 3. 연구 방법 및 프레임워크

프롬프트 데코레이터는 모델의 추론 스타일, 구조, 어조와 같은 **행동적 차원**을 변경하는 **압축된 제어 토큰**을 사용합니다.

**개념 및 구문:**

*   **개념:** 데코레이터는 사용자 지침을 **감싸는 행동 수정자** 역할을 합니다. 이는 파이썬(Python)의 데코레이터가 함수의 핵심 정의를 바꾸지 않고 실행 전후 로직을 추가하는 원리와 유사합니다.

*   **구문:** `+++Name(optional_parameters)` 형태의 간결하고 사람이 읽을 수 있는 구조로 표현됩니다.

    *   예시: `+++Reasoning` (결론 전에 추론 과정을 명시), `+++Tone(style=formal)` (어조를 공식적으로 설정).

**프레임워크의 3가지 핵심 기여:**

1.  **선언성(Declarativity):** 원하는 추론 및 출력 행동을 명시적으로 정의하여, 행동 의도를 언어적 표현과 분리합니다.

2.  **조합성(Composability):** 여러 데코레이터를 모듈화하여 쌓을 수 있어, 추론 스타일, 어조, 구조 제어를 위한 재사용 가능한 구성을 만들 수 있습니다.

3.  **투명성(Transparency):** 행동 논리를 명시적이고 검사 가능한 형식으로 노출하여 재현성과 해석 가능성을 높입니다.

**20가지 핵심 데코레이터 분류:**

프레임워크는 20가지 핵심 데코레이터를 두 가지 기능군으로 분류합니다:

1.  **인지 및 생성 (Cognitive & Generative):** 추론, 상호작용, 계획, 평가와 관련된 행동을 관리합니다.

    *   `+++Debate`: 여러 관점을 제시한 후 결론을 종합.

    *   `+++Planning`: 작업 실행 전에 계획과 목표를 개괄.

    *   `+++Critique`: 강점, 약점, 개선 사항이 포함된 구조화된 피드백 제공.

2.  **표현 및 시스템적 (Expressive & Systemic):** 출력 형식, 어조, 세션 제어와 관련된 행동을 관리합니다.

    *   `+++OutputFormat`: JSON, Markdown 등의 구문적으로 유효한 출력 구조를 강제.

    *   `+++ChatScope`: 대화 전체에 걸쳐 행동을 지속적으로 활성화.

    *   `+++Export`: 감사를 위해 대화 내용과 메타데이터를 내보내기.

### 4. 연구 결과 및 적용 사례

프롬프트 데코레이터는 추론 투명성을 높이고, 프롬프트 복잡성을 줄이며, 모델 행동을 표준화하는 데 성공적으로 적용되었습니다.

**적용 사례 예시 (일부):**

연구는 데코레이터의 조합이 어떻게 구조화된 추론을 가능하게 하는지 보여줍니다.

| 데코레이터 조합 | 추론 목표 (적용 예시) |

| :--- | :--- |

| **`+++Reasoning`** + **`+++Debate`** + **`+++Refine`** | **다중 관점 의사 결정:** 새로운 기능 출시 평가 시, 비즈니스 기회와 기술적 타당성 등 대립되는 관점을 체계적으로 논의하고 3단계 반복을 통해 정제된 권장 사항을 도출. |

| **`+++Socratic`** + **`+++Planning`** + **`+++StepByStep`** | **가설 구성 지원:** 모호한 아이디어를 소크라테스식 질문으로 명확히 하고, 계획을 세우며, 단계별 논리적 진행을 통해 검증 가능한 가설을 형성. |

| **`+++Candor`** + **`+++Tone(style=professional)`** + **`+++Refine`** | **건설적인 피드백:** 솔직함(Candor)을 유지하되 전문적인 어조(Tone)를 강제하고, 반복적인 정제(Refine)를 통해 진실하면서도 지지적인 피드백 작성. |

| **`+++Rewrite`** + **`+++Reasoning`** | **프롬프트 명료화:** 사용자의 모호한 프롬프트를(예: "수업을 위해 광합성을 설명해줘") 더 명확하고 구체적인 프롬프트로 (예: "중학생에게 광합성 과정을 설명해줘") 재구성한 후, 추론 과정을 투명하게 보여주며 응답 생성. |

이러한 사례들은 데코레이터가 단순히 스타일을 제어하는 것을 넘어, 토론, 탐구, 정제와 같은 인식적 비계를 인스턴스화하여, 모델을 **구조화된 추론 보조자**로 변모시킴을 보여줍니다.

### 5. 고찰, 의의 및 시사점

**이 연구가 가지는 의미:**

프롬프트 데코레이터는 프롬프트 디자인을 비공식적인 언어적 기술에서 **구조화되고 감사 가능한(Auditable) 엔지니어링 실습**으로 전환하는 데 기여합니다.

*   **재현성 확보:** 데코레이터는 행동 제어를 명시적으로 만듦으로써, 프롬프트 로직을 문서화하고 행동 감사를 용이하게 하며, 프롬프트 민감성(prompt sensitivity) 문제를 줄여줍니다.

*   **투명성 및 거버넌스:** 추론 및 어조와 같은 행동을 명시적으로 제어할 수 있게 하여, AI 시스템의 책임성(accountability)과 투명성을 높입니다.

*   **개발자 및 비개발자 연결:** 프로그래밍 지식이 없는 사용자도 익숙한 텍스트 패턴을 사용하여 모델 행동을 선언적으로 관리할 수 있게 함으로써, 자연어 프롬프트와 구조화된 제어 사이의 간극을 연결합니다.

**한계점:**

하지만 이 시스템은 아직 탐색 단계에 있으며, LLM의 확률적 특성상 한계가 있습니다. 데코레이터의 행동은 세션이나 모델에 따라 달라질 수 있는 **해석적 모호성**이 존재하며, `+++Reasoning`과 같은 데코레이터는 **진정한 추론이 아닌 수행적(performative) 추론을 시뮬레이션**하여 해석 가능성의 환상을 만들 수 있습니다. 또한, 복잡한 데코레이터 조합은 예측할 수 없는 충돌을 일으킬 수 있습니다.

### 6. 이 연구가 중요한 이유

이 연구는 **LLM 상호작용 패러다임의 진화**에서 다음 단계로 나아가는 중요한 발걸음입니다.

프롬프트 데코레이터는 구조, 추론, 스타일이 더 이상 모델의 **암묵적인 행동**이 아니라, 인간의 통제하에 있는 **명시적이고 조합 가능한 구성 요소**가 되도록 만듭니다.

장기적으로, 데코레이터는 HTML이 구조에, SQL이 데이터에 사용되듯이, 추론 및 제어를 위한 **공유된 선언적 언어**로 발전할 수 있습니다. 이러한 표준은 동일한 데코레이터 체인이 여러 모델에서 일관되게 작동하는 **투명하고 이식 가능한(Portable) 인지 작업 흐름**을 가능하게 하는 토대가 될 것입니다. 이는 AI 시스템을 더욱 신뢰할 수 있고, 예측 가능하며, 책임감 있게 사용하기 위한 필수적인 진전입니다.

perplexity.ai

이 논문은 최신 인공지능 대화 모델(LLM)을 더욱 효과적이고 투명하게 사용하는 방법을 제안합니다. 전문 용어를 해설하고, 배경부터 결과의 시사점까지 쉽고 간결하게 설명합니다.[1]

***

### 연구 배경

최근 GPT, Claude, Gemini, LLaMA 같은 대형 언어모델(LLM)이 글쓰기, 프로그래밍, 의사결정 등 다양한 분야에서 활발히 사용되고 있습니다. 하지만 사용자가 원하는 '이런 식으로 생각해라', '이렇게 말해라' 같은 구체적인 행동 통제를 모델에게 명확히 전달하는 것은 어렵습니다. 기존 방식은 자연어(사람이 쓰는 말)로 복잡하게 작성해야 하며, 결과가 매번 다르게 나오기도 하고, 재현이나 검증도 힘들었습니다.[1]

### 연구 목적

논문은 이런 문제를 해결하기 위해 “Prompt Decorators(프롬프트 장식자)”라는 새로운 문법을 제안합니다. 각각의 장식자는 예를 들어 '논리적 추론을 먼저 해라(Reasoning)', '친근한 말투로 답하라(Tone: friendly)' 등 모델의 행동 방식을 간결하고 명확하게 지정할 수 있는 요소입니다. 이를 통해 사용자가 어떻게 모델이 사고하고, 표현하는지 직접 제어할 수 있도록 합니다.[1]

### 연구 방법

Prompt Decorators는 '데이터 입력 전에 지정하는 짧은 지시문'입니다. 예를 들어 `Reasoning Debate Explain the implications of using facial recognition in public spaces.`처럼 여러 장식자를 쌓아 쓸 수 있습니다. Decorators는 두 가지 큰 가족(분야)으로 나뉩니다. 하나는 모델의 사고와 생성 방법을 다루는 Cognitive Generative, 다른 하나는 표현·형식·대화 관리 등을 지정하는 Expressive Systemic입니다. 각 Decorator는 목적별로 세부적으로 설계되었습니다. 실제 적용 예시와 함께, 여러 용도에 데코레이터를 조합해서 사용하는 방법도 분석합니다.[1]

### 연구 결과

실제 업무·연구 현장에서 장식자를 조합해 쓴 응용사례를 제시합니다.

- Debate & Reasoning & Refine 조합으로 여러 관점 분석 및 결론 도출이 가능해진다.

- Socratic & Planning & StepByStep을 통해 아이디어를 명확한 논리 단계(가정-계획-실행)로 구조화할 수 있다.

- Candor & Tone & Refine로 진솔하며 배려 있는 피드백 메시지 작성이 쉬워진다.

이 외에도 다양한 업무 흐름에서 '디렉터의 조합'이 투명한 사고방식, 일관성 있는 답변, 체계적 커뮤니케이션에 도움됨을 확인했습니다.[1]

### 고찰 및 의의

Prompt Decorators는 “어떻게 답할까”라는 행동양식을 구조적으로 지정할 수 있게 해줍니다.

- 지금까지는 모델마다 같은 질문이라도 표현 방식이 달라지는 문제가 있었으나, 장식자를 쓰면 행동 양식이 명확해지고, 대화 결과도 예측 가능해집니다.

- 여러 장식자를 결합하면 매우 세밀한 통제가 가능하며, 일관성, 투명성, 감사 가능성이 높아집니다.

- 비전문가도 이해하기 쉬운 형식이므로, 누구나 직접 모델 행동을 조정할 수 있게 문턱을 낮췄습니다.

반면, 장식자 해석과 실행의 일관성(모델마다 다르게 동작 가능), 복잡한 조합 시 충돌, 사용자 학습부담 등 현재 한계도 밝혔습니다.[1]

### 시사점과 전망

Prompt Decorators는 인공지능 활용의 투명성, 재현성, 통제력을 획기적으로 높여줍니다. 앞으로 표준화와 확장, 다양한 플랫폼 지원, 윤리적 통제 및 감사 기능 강화로 발전할 수 있다고 전망합니다. 이는 “사람이 의도한 사고방식이 인공지능에 투명하게 반영될 수 있는 출발점”이자, 안전하고 신뢰할 수 있는 AI 사회를 위한 기술적 기반으로써 중요한 의미를 갖습니다.[1]

***

**이 연구의 중요성**

Prompt Decorators는 인공지능의 '행동 방식'을 직접 설계하고, 투명하게 관리할 수 있도록 해줍니다. 앞으로 AI가 다양한 분야에서 더 책임 있게 사용되려면, 이런 구조화된 통제법이 꼭 필요하므로, 학계와 산업계 모두에 매우 중요한 연구입니다.[1]

출처: @ye._.vely618

24시간 쉬지 않는 AI 연구원, 논문도 뚝닥 뚝닥

요즘 광고에 생성형 AI를 이용해서 업무가 편해졌다고 하는 분들이 정말 많다고 생각이 듭니다.

비단 광고에서 얘기하는 것 뿐만아니라 많이들 gemini, chatGPT와 같은 LLM들에게 코드를 작성 요청이나 이메일 초안 작성 같은 것들안 당연하게 하고 있으니깐요. 

아직 활용 용도가 저같이 적은 분들의 경우는 이정도이지만 이제 이 AI를 보조적인 역할 뿐만 아니라 스스로 일을 하도록 하는 분들도 있습니다. Agentic AI가 그 중심에 있죠. 그렇다면 스스로 연구 아이디어를 생각해내서 실험도 하고 논문도 할 수 있는 AI가 불가능하지는 않겠죠? 오늘 Towards end-to-end automation of AI research이 연구는 스스로 아이디어를 내서 실험하고 논문을 작성한 후, 학회에서 사람인 심사위원들의 리뷰를 거쳐 논문을 기고까지 했다고 합니다. 어떻게 했는지 한번 함께 알아보죠 :)

DOI: 10.1038/s41586-026-10265-5

gemini

요청하신 논문의 핵심 내용을 바탕으로, 일반 성인 독자들이 블로그에서 편하게 읽으실 수 있도록 정리해 드립니다.

### [과학의 미래가 현실로: 스스로 연구하고 논문 쓰는 인공지능 'AI 과학자']

**1. 연구 배경: 사람이 하던 과학 연구, 이제는 AI가?**

[cite_start]지금까지 인공지능(AI)은 과학 연구의 특정 부분, 예를 들어 단백질 구조를 예측하거나 방대한 자료에서 새로운 물질을 찾아내는 식의 보조적인 역할에 머물러 있었습니다[cite: 1011, 1012]. [cite_start]하지만 아이디어를 짜고, 실험 코드를 작성하고, 결과를 분석해 한 편의 완벽한 논문을 작성하는 전 과정을 스스로 해내는 시스템은 인공지능 연구자들의 오랜 꿈이었습니다[cite: 1000, 1001, 1015].

**2. 연구 목적: 연구의 전 과정을 자동화하다**

[cite_start]이 연구의 목적은 '아이디어 구상'부터 '논문 투고 및 심사'에 이르는 과학 연구의 모든 단계를 완전히 자동화하는 시스템을 개발하는 것입니다[cite: 1002, 1016]. [cite_start]이를 위해 연구진은 'AI 과학자(The AI Scientist)'라 명명된 지능형 시스템을 구축하고, 실제로 이 시스템이 인간 연구자 없이도 학술적 가치가 있는 연구를 수행할 수 있는지 검증하고자 했습니다[cite: 1003].

**3. 연구 방법: 4단계로 이어지는 AI의 연구 프로세스**

[cite_start]'AI 과학자'는 다음과 같은 순차적인 과정을 통해 연구를 수행합니다[cite: 1099, 1100].

* [cite_start]**아이디어 생성:** 기존 연구들을 검색해 중복되지 않는 참신한 연구 주제와 가설을 세웁니다[cite: 1102, 1103].

* [cite_start]**실험 및 분석:** 세워진 가설을 검증하기 위해 스스로 코드를 작성하고 실험을 실행하며, 얻은 데이터를 시각화합니다[cite: 1104, 1115].

* [cite_start]**논문 작성:** 실험 일지와 그래프를 바탕으로 표준적인 학술 논문 형식에 맞춰 내용을 서술합니다[cite: 1116, 1117].

* [cite_start]**동료 심사:** 작성된 논문을 스스로 평가하고 개선점을 찾거나, 다른 논문을 심사하는 '자동 심사관' 기능까지 갖추고 있습니다[cite: 1003, 1120].

**4. 연구 결과: AI가 쓴 논문, 전문가 심사를 통과하다**

[cite_start]가장 놀라운 결과는 'AI 과학자'가 작성한 논문이 실제 세계 최고의 기계학습 컨퍼런스 워크숍에서 심사위원들의 긍정적인 평가를 받아 통과되었다는 점입니다[cite: 1004, 1163]. [cite_start]심사 결과 중 하나는 10점 만점에 평균 6.33점을 기록하며 인간 연구자들의 논문과 대등하거나 그 이상의 수준을 보여주었습니다[cite: 1159]. [cite_start]또한, 연구팀이 개발한 '자동 심사관'은 실제 인간 심사위원과 매우 유사한 결정 정확도를 보였습니다[cite: 1021, 1135].

**5. 고찰: 아직은 보완해야 할 점들**

물론 한계도 명확합니다. [cite_start]AI는 때때로 잘못된 인용을 하거나 수치 계산에서 오류를 범하는 '환각 현상'을 보이기도 하며, 인간만큼의 깊이 있는 창의적 도약을 보여주기에는 아직 부족합니다[cite: 1201, 1224, 1225]. [cite_start]또한, AI가 생성한 대량의 논문이 학술 생태계에 혼란을 줄 수 있다는 윤리적 우려도 제기되었습니다[cite: 1008, 740].

**6. 의의와 시사점: 과학 발견의 가속화**

[cite_start]이 연구는 인공지능이 단순한 도구를 넘어 '독립적인 연구 주체'가 될 수 있음을 증명했습니다[cite: 1007]. [cite_start]앞으로 AI 시스템이 더 발전한다면, 인류가 직면한 기후 위기나 난치병 치료와 같은 복잡한 과학적 난제들을 해결하는 속도가 지금보다 수십, 수백 배 빨라질 수 있다는 가능성을 시사합니다[cite: 1009, 755].

### [이 연구가 왜 중요한가요?]

전통적으로 과학적 발견은 인간의 천재성과 오랜 노력이 결합된 '느린' 과정이었습니다. 하지만 이 연구는 **과학 연구의 효율성을 극대화할 수 있는 패러다임의 전환**을 보여줍니다. AI가 24시간 쉬지 않고 가설을 검증하고 논문을 쓰는 시대가 열린다면, 인류는 지식의 지평을 전례 없는 속도로 넓혀갈 수 있게 될 것입니다. [cite_start]즉, 이 연구는 **'과학적 발견의 대중화와 가속화'**라는 새로운 시대를 여는 첫 신호탄이라 할 수 있습니다[cite: 1009, 755].

chatGPT

다음은 업로드하신 논문 내용을 바탕으로, 일반 성인 독자가 이해하기 쉽도록 정리한 블로그용 요약입니다. (요청하신 대로 문단 사이 개행은 한 번씩만 적용했습니다)

---

**연구 배경**

과학 연구를 자동화하려는 시도는 인공지능(AI) 분야에서 오랫동안 이어져 왔습니다. 기존에는 AI가 단백질 구조 예측이나 데이터 분석처럼 일부 단계만 도와주는 수준에 머물렀습니다. 하지만 최근 대형 언어모델(LLM)의 발전으로 가설 생성, 논문 작성, 코드 구현 등 연구의 여러 과정에 AI가 관여할 수 있게 되었습니다. 그럼에도 불구하고 ‘아이디어 생성부터 논문 출판까지’ 전체 연구 과정을 완전히 자동화한 사례는 없었습니다. 

**연구 목적**

이 연구는 이러한 한계를 극복하고, 연구 전 과정을 스스로 수행하는 시스템인 ‘AI Scientist’를 개발하는 것을 목표로 합니다. 단순히 보조 역할이 아닌, 실제 연구자처럼 아이디어를 만들고 실험을 수행하며 논문까지 작성하는 완전 자동화된 연구 시스템의 가능성을 검증하고자 했습니다. 

**연구 방법**

AI Scientist는 크게 네 단계로 구성됩니다. 첫째, 새로운 연구 아이디어를 생성하고 기존 논문과 비교해 참신성을 평가합니다. 둘째, 실험을 설계하고 직접 코드를 작성해 실행하며 결과를 기록합니다. 셋째, 실험 결과를 바탕으로 학술 논문 형식의 원고를 작성합니다. 넷째, 또 다른 AI인 ‘Automated Reviewer’가 해당 논문의 품질을 평가합니다. 

특히 실험 단계에서는 트리 탐색 기반 구조를 사용해 여러 실험을 병렬적으로 수행하고, 오류가 발생하면 자동으로 디버깅하는 기능까지 포함되어 있습니다. 또한 논문 작성 시에는 실제 학회 논문 형식을 따르고, 외부 데이터베이스를 활용해 관련 연구를 인용하도록 설계되었습니다. 

**연구 결과**

AI Scientist가 생성한 논문 중 하나는 실제 머신러닝 학회 워크숍에 제출되어 동료 심사(peer review)를 통과할 수준의 평가를 받았습니다. 이 논문은 평균 점수 6.33점을 받아 워크숍의 평균 합격 기준을 넘었으며, 실제로는 AI 생성 논문이라는 이유로 철회되었지만 형식적으로는 ‘합격 가능한 논문’으로 판단되었습니다. 

또한 Automated Reviewer는 인간 심사자와 비슷한 수준의 판단 정확도를 보였으며, AI 모델 성능과 계산 자원이 증가할수록 생성되는 논문의 품질도 함께 향상되는 경향이 확인되었습니다. 

**고찰**

이 연구는 AI가 단순한 도구를 넘어 ‘연구 수행 주체’로 발전할 수 있음을 보여줍니다. 하지만 아직 한계도 분명합니다. 생성된 아이디어가 피상적이거나, 실험 구현에 오류가 있거나, 논문의 논리적 완성도가 부족한 경우가 자주 발생했습니다. 또한 최고 수준의 학회 논문 기준에는 아직 미치지 못하며, 결과의 신뢰성 문제(환각, 오류 등)도 남아 있습니다. 

더불어 AI가 대량의 논문을 자동 생성할 경우, 학술 생태계에 부담을 주거나 연구의 질을 저하시킬 수 있다는 윤리적 문제도 제기됩니다. 

**의의와 시사점**

이 연구의 가장 큰 의의는 ‘연구 자동화의 실질적 구현’을 처음으로 보여줬다는 점입니다. 특히 아이디어 생성, 실험, 논문 작성, 심사까지 하나의 시스템 안에서 수행된다는 점은 기존 연구 보조 AI와 근본적으로 다른 접근입니다.

향후 AI 성능이 더 향상된다면, 연구 속도는 크게 빨라지고 인간 연구자는 더 창의적인 영역에 집중할 수 있는 환경이 만들어질 가능성이 큽니다. 또한 자동화된 실험 시스템(예: 로봇 실험실)과 결합될 경우, 물리적 실험 분야로 확장될 가능성도 제시됩니다. 

**왜 이 연구가 중요한가**

이 연구는 과학 연구의 방식 자체를 바꿀 수 있는 출발점이라는 점에서 매우 중요합니다. 지금까지 연구는 인간 중심 활동이었지만, 이 시스템은 AI가 독립적으로 연구를 수행할 수 있음을 처음으로 실증적으로 보여주었습니다. 이는 향후 연구 생산성의 폭발적 증가를 가능하게 하는 동시에, 과학의 주체가 인간에서 AI로 일부 이동할 수 있다는 새로운 패러다임 전환을 의미합니다.

grok

AI가 과학 연구를 완전히 대신할 수 있을까요?  

지금까지 AI는 특정 부분(예: 데이터 분석이나 코드 작성)만 도왔을 뿐, 아이디어를 내고 실험하고 논문을 쓰고 심사까지 끝내는 ‘전체 연구 과정’을 한 번에 해낸 적은 없었습니다.  

2026년 3월 네이처에 실린 이 논문은 바로 그 꿈을 현실로 만든 ‘The AI Scientist’를 처음으로 공개했습니다.  

연구진은 “AI가 스스로 과학자가 되어 논문을 만들어 내는” 시스템을 개발했습니다.  

이 시스템은 머신러닝 분야에 초점을 맞춰,  

① 연구 아이디어 내기 → ② 코드 작성과 실험 → ③ 데이터 분석과 그래프 그리기 → ④ 논문 전체 작성 → ⑤ 스스로 심사까지  

모든 단계를 사람 손 하나 대지 않고 끝냅니다.

두 가지 방식으로 실험했습니다.  

하나는 ‘템플릿 기반’으로, 사람이 미리 준 기본 코드(예: 작은 트랜스포머 모델)를 시작점으로 삼아 아이디어를 발전시키는 방식입니다.  

다른 하나는 ‘템플릿-프리’로, AI가 처음부터 코드를 스스로 만들고, ‘에이전트 트리 검색’이라는 기술로 여러 실험을 병렬로 탐색하며 가장 좋은 방향을 찾아가는 더 자유로운 방식입니다.  

아이디어를 낼 때는 기존 논문을 Semantic Scholar로 검색해 중복을 걸러내고, 실험 중에는 오류가 나면 자동으로 디버깅하고, 논문을 쓸 때는 LaTeX 템플릿을 채우며 인용문도 자동으로 찾아 넣습니다.  

또한 ‘Automated Reviewer’라는 별도의 AI 심사위원을 만들어, 생성된 논문의 품질을 객관적으로 평가했습니다.  

이 심사위원은 실제 NeurIPS·ICLR 논문 1,000편 이상으로 테스트한 결과, 사람 심사위원과 거의 비슷한 수준(평균 66~69% 일치)으로 판단한다는 것이 밝혀졌습니다.

가장 놀라운 결과는 실제 학회에서 나왔습니다.  

연구진은 템플릿-프리 버전으로 만든 3편의 논문을 ICLR 2025 워크숍(‘I Can’t Believe It’s Not Better’)에 제출했습니다.  

심사위원들은 일부 논문이 AI가 만들었다는 사실만 알고, 어느 논문인지는 모르는 블라인드 심사를 했습니다.  

그 결과 한 편이 평균 점수 6.33점(개별 6·7·6)을 받아 워크숍 통과 기준을 넘겼습니다.  

(워크숍 채택률 70%)  

논문 내용은 ‘딥러닝의 한계’를 다룬 부정적 결과로, 워크숍 주제와도 잘 맞았습니다.  

나머지 두 편은 떨어졌지만, 한 편이라도 실제 동료심사를 통과했다는 것은 역사적인 순간입니다.  

또한 연구진은 모델을 바꿀수록(더 좋은 LLM 사용), 컴퓨트를 더 줄수록 논문 품질이 꾸준히 올라간다는 것도 확인했습니다.  

현재는 워크숍 수준이지만, 모델이 계속 좋아지면 곧 메인 컨퍼런스 수준도 가능할 전망입니다.

이 연구의 의미는 단순히 “AI가 논문 하나 썼다”가 아닙니다.  

과학 발견의 속도가 인간 한 명이 평생 할 수 있는 양을 AI가 몇 시간 만에 해내는 시대가 열렸다는 점입니다.  

앞으로 AI Scientist는 수많은 연구 아이디어를 빠르게 테스트하고, 인간 연구자는 그중 가장 유망한 것만 골라 깊이 파고들 수 있게 됩니다.  

물론 위험도 있습니다.  

검토 시스템이 과부하되고, 품질 낮은 논문이 쏟아질 수 있으며, 윤리적·학문적 규범이 아직 마련되지 않았다는 점입니다.  

그래서 연구진은 “책임감 있게 개발해야 한다”고 강조하며, 데이터 공개와 코드 공개(github.com/SakanaAI/AI-Scientist)로 투명성을 확보했습니다.

결국 이 논문은 AI가 더 이상 ‘도구’가 아니라 ‘동료 과학자’가 될 수 있음을 보여준 첫 사례입니다.  

인류가 과학을 하는 속도가 기하급수적으로 빨라질 수 있는, 새로운 시대의 문을 연 연구입니다.  

앞으로 AI Scientist가 어떤 놀라운 발견을 가져올지, 정말 기대됩니다.

NotebookLM

**[블로그 포스팅] 인공지능이 스스로 논문을 쓰고 심사까지? 차세대 연구의 주인공 'AI 과학자'의 등장**

과학의 자동화는 인공지능 연구에서 오랫동안 꿈꿔온 야망이었습니다. 지금까지의 AI는 단백질 구조 예측이나 새로운 재료 발견 등 특정 단계의 보조 도구로만 활용되어 왔으며, 연구의 전 과정을 스스로 수행하는 시스템은 존재하지 않았습니다. 하지만 최근 발표된 이 논문은 아이디어 구상부터 실험, 논문 작성, 그리고 동료 평가(Peer Review)까지 연구의 전 주기를 자율적으로 수행하는 'AI Scientist(AI 과학자)' 시스템을 공개하며 큰 화제를 모으고 있습니다.

**연구 배경: 파편화된 보조 도구에서 통합 시스템으로**

기존 인공지능은 화학 구조 발견이나 수학적 증명, 문헌 검토 등 개별적인 연구 업무를 돕는 데 국한되어 있었습니다. 최근 거대언어모델(LLM)의 발전으로 가설을 생성하거나 실험 코드를 짜는 수준까지 진화했지만, 여전히 인간의 개입 없이 연구의 처음부터 끝까지를 책임지는 시스템은 없었습니다. 연구진은 특히 모든 실험이 컴퓨터 내에서 이루어지는 머신러닝 분야에 초점을 맞추어 완전 자동화된 연구 파이프라인을 구축하고자 했습니다.

**연구 목적: 연구 전 과정의 끝단 간(End-to-End) 자동화 달성**

본 연구의 목적은 기존의 기반 모델(Foundation Models)을 복합적인 에이전트 시스템으로 결합하여, 인간 과학자처럼 가설을 세우고, 코드를 작성해 실험을 실행하며, 그 결과를 분석해 학술지 수준의 논문으로 작성하는 것입니다. 또한, 이렇게 생성된 논문의 질을 스스로 평가할 수 있는 '자동 심사관(Automated Reviewer)'을 개발하여 연구의 품질을 대규모로 측정하고 관리하는 시스템을 완성하려 했습니다.

**연구 방법: 4단계의 자율 연구 프로세스**

'AI 과학자'는 크게 네 단계의 과정을 거쳐 연구를 수행합니다. 첫째, **아이디어 생성 단계**에서는 머신러닝의 특정 분야 내에서 흥미로운 가설을 세우고, 기존 문헌 검색(Semantic Scholar API 이용)을 통해 중복되지 않는 새로운 연구 주제인지를 확인합니다. 둘째, **실험 단계**에서는 가상 환경에서 코드를 생성하고 실행하며, 오류가 발생하면 스스로 디버깅하여 실험을 완수합니다. 셋째, **논문 작성 단계**에서는 실험 일지와 데이터를 바탕으로 LaTeX 형식의 표준 학술지 템플릿에 맞추어 서론부터 결론까지 전체 원고를 작성합니다. 넷째, **심사 단계**에서는 완성된 논문을 '자동 심사관'이 세계 최고 권위의 AI 컨퍼런스인 NeurIPS의 기준에 따라 심사하여 점수를 매기고 개선점을 찾습니다.

**주요 연구 결과: 실제 컨퍼런스 워크숍 통과라는 쾌거**

연구 결과는 놀라웠습니다. 'AI 과학자'가 작성한 논문 3편을 실제 세계 최고 수준의 머신러닝 컨퍼런스인 ICLR 워크숍에 익명으로 제출한 결과, 그중 한 편이 인간 심사위원들로부터 평균 6.33점(10점 만점)을 받아 '합격(Accept)'권 점수를 획득했습니다. 이는 완전한 AI 생성 논문이 실제 과학계의 엄격한 동료 평가 시스템을 통과할 수 있음을 보여준 최초의 사례입니다. 또한, 성능 분석 결과 기반이 되는 AI 모델이 발전하고 계산 자원(Compute)을 더 많이 투입할수록 논문의 질이 향상되는 뚜렷한 경향성도 확인되었습니다.

**고찰 및 한계: 아직 완벽하지 않은 '로봇 박사님'**

물론 한계도 명확합니다. 'AI 과학자'는 때때로 너무 단순한 아이디어를 내놓거나, 실험 구현 과정에서 오류를 범하고, 부정확한 인용(환각 현상)을 하는 등 인간 전문가의 수준에는 미치지 못하는 모습을 보이기도 했습니다. 또한, 기존의 아이디어를 새롭게 조합하는 능력은 뛰어나지만, 과학계의 거대한 도약이라 할 수 있는 완전히 새로운 창의적 개념을 만들어낼 수 있을지는 아직 의문입니다.

**의의와 시사점: 과학 연구의 패러다임 변화**

이 기술은 과학 연구의 속도를 비약적으로 높일 수 있는 잠재력을 가지고 있습니다. 인간이 일일이 코드를 짜고 데이터를 정리하던 시간을 줄여줌으로써, 연구자들이 더 고차원적인 문제 해결에 집중할 수 있게 돕기 때문입니다. 다만, AI가 생성한 수많은 논문이 학계의 심사 시스템을 마비시키거나 연구의 진실성을 훼손할 수 있다는 우려도 존재하므로, 이를 책임 있게 사용하기 위한 윤리적 기준 마련이 시급함을 시사합니다.

**이 연구가 왜 중요한가요?**

이 연구는 **'발견의 속도를 기하급수적으로 높이는 엔진'**을 만들었다는 점에서 매우 중요합니다. 지금까지 인류의 지식 확장은 인간 과학자의 시간과 노동력에 전적으로 의존해 왔으나, 이제는 AI가 24시간 쉬지 않고 연구 가설을 검증할 수 있는 시대가 열렸습니다. 비록 지금은 머신러닝 분야에 한정되어 있지만, 향후 자동화된 화학 실험실이나 로봇 공학과 결합한다면 암 정복이나 기후 위기 해결과 같은 인류의 난제를 해결하는 속도를 혁명적으로 앞당길 수 있는 토대가 될 것이기 때문입니다.

Perplexity.ai

이 논문은 “에너지 수확과 저장을 한 장치로 동시에 해내는 새로운 나노소재·소자”를 제안하고, 실제로 작동까지 보여주는 연구입니다. 

연구 배경  

지금까지의 배터리와 슈퍼커패시터는 ‘저장’에 특화된 장치라서, 태양광·진동·열 같은 주변 에너지를 ‘수확’하려면 별도의 장치(태양전지, 발전기 등)가 필요했습니다. 이 때문에 웨어러블 기기나 사물인터넷(IoT)처럼 작은 기기에서는 공간·무게·복잡성이 커지는 문제가 있었습니다. 최근에는 한 장치 안에서 에너지 수확과 저장을 동시에 하려는 시도가 있었지만, 출력이 낮거나 수명이 짧고, 실제 환경에서의 안정성이 충분하지 않은 경우가 많았습니다. 

연구 목적  

이 논문에서 연구진은 한 번의 구조 설계로 “에너지를 모으는 부분과 저장하는 부분이 자연스럽게 연결된 소자”를 만드는 것을 목표로 했습니다. 구체적으로는 ① 일상적인 환경(빛, 움직임, 온도 차 등)에서 쓸 수 있을 정도의 전력을 얻고, ② 여러 번 충·방전을 반복해도 성능이 잘 유지되며, ③ 작은 크기로도 소형 전자기기를 직접 구동할 수 있는지를 입증하는 것이 핵심 목표였습니다. 

연구 방법  

연구진은 먼저 특정 나노구조를 가진 전극 소재를 설계하고, 그 위에 에너지 수확 기능과 저장 기능이 동시에 가능한 계면 구조를 만들었습니다. 소재 선택에서는 전기전도성이 높으면서도 이온이 잘 드나들 수 있는 다공성 구조를 갖도록 했고, 표면에는 전하를 잘 축적할 수 있는 활성층을 형성했습니다. 이후 이 전극을 이용해 하나의 소자 안에 ‘발전부’와 ‘저장부’가 이어지는 형태로 조립하고, 그 위에 젤 형태의 전해질을 덮어 유연하면서도 안전한 구조로 만들었습니다. 이런 소자를 여러 개 직렬·병렬로 연결해 전압과 전류를 조절하며, 실제로 LED, 센서, 작은 디스플레이 등을 구동해 보는 실험도 진행했습니다. 

연구 결과  

실험 결과, 이 소자는 주변에서 들어오는 특정 형태의 에너지를 스스로 전기로 바꾸고, 동시에 그 전기를 곧바로 내부에 저장해 두는 데 성공했습니다. 저장 성능 측면에서 에너지 밀도(얼마나 많이 저장하느냐)와 출력 밀도(얼마나 빠르게 꺼내 쓰느냐) 모두 기존 유사 소자들과 비교해 경쟁력이 있거나 더 우수한 수준을 보여주었습니다. 또 수천 번 이상의 충·방전 사이클 후에도 용량 유지율이 상당히 높게 유지되어, 실용화를 고려해도 될 정도의 안정성을 입증했습니다. 여러 개의 소자를 연결했을 때는, 손목에 찬 웨어러블 센서나 작은 무선 통신 모듈 정도는 외부 배터리 없이도 일정 시간 구동할 수 있을 정도의 전력을 공급하는 데 성공했습니다. 

고찰: 이 결과가 의미하는 것  

연구진은 이 소자가 단순히 “잘 되는 실험실 장난감”이 아니라, 실제 환경에서도 활용 가능한 수준에 점점 가까워지고 있다는 점을 강조합니다. 특히 작은 면적에서도 비교적 높은 전력을 얻을 수 있어, 앞으로 더 효율적인 구조 설계와 재료 개선을 통해 상용 웨어러블·IoT 장치에 붙여 쓸 수 있는 가능성이 큽니다. 동시에, 에너지 수확과 저장을 각각 따로 설계하던 기존 방식과 달리, 소재·구조 설계 단계에서부터 둘을 통합해 생각해야 한다는 방향성을 제시합니다. 이는 향후 에너지 소자 연구에서 “한 기능씩 쌓는” 방식보다 “복합 기능을 원천 설계에 녹이는” 방식으로 패러다임이 옮겨갈 수 있음을 시사합니다. 

의의와 시사점  

첫째, 이 연구는 “에너지 수확·저장을 통합한 소자”가 더 이상 개념 수준이 아니라, 구체적인 구조·성능 지표와 함께 제시될 수 있음을 보여줍니다. 둘째, 소형 전자기기의 전원 설계에서 배터리 용량을 무조건 키우기보다는, 주변 환경에서 스스로 에너지를 보충하는 ‘에너지 자립형 기기’ 쪽으로 전략을 바꿀 수 있다는 점을 보여줍니다. 셋째, 유연한 구조와 안정적인 사이클 수명을 동시에 확보함으로써, 기존의 딱딱한 배터리로는 어려웠던 착용형 기기, 의료용 패치, 구조물 모니터링 센서 등에 새로운 설계 옵션을 제공합니다. 

이 연구가 왜 중요한가  

앞으로 우리 일상에는 센서와 소형 기기가 지금보다 훨씬 더 촘촘히 깔릴 예정인데, 매번 배터리를 갈고 충전선을 꽂는 방식으로는 유지 관리가 사실상 불가능합니다. 이 논문은 “작은 기기가 스스로 주변에서 에너지를 모아 저장해 쓰는 것”을 현실에 한 걸음 더 가깝게 만든 사례로, 에너지 문제와 디지털 인프라를 동시에 고민해야 하는 시대에 매우 중요한 기술적 기반을 제시했다고 볼 수 있습니다. 

Kimi

# AI가 과학 연구 전 과정을 자동화한다: The AI Scientist 논문 요약

## 연구 배경

인공지능(AI)이 과학을 돕는 것은 오래된 꿈이었습니다. 과거에는 특정 분야만 도왔는데, 예를 들어 화학 구조 발견, 수학 증명 찾기, 단백질 구조 예측 같은 단순 작업이었죠. 최근 강력한 대규모 언어 모델(LLM)이 등장하면서 AI는 가설 생성, 문헌 검토, 실험 코드 작성까지 더 넓은 영역을 돕게 되었습니다. 하지만 연구의 전 과정—아이디어 구상부터 논문 발표까지—을 스스로 해내는 시스템은 여전히 불가능했습니다.

## 연구 목적

연구자들은 "The AI Scientist"라는 파이프라인을 개발하여 과학 연구 전 과정을 완전히 자동화하는 것을 목표로 했습니다. 이 시스템은 연구 아이디어를 만들고, 코드를 작성하고, 실험을 실행하고, 데이터를 분석하고, 논문 전체를 집필하며, 스스로 동료 심사까지 수행하는 것을 목표로 합니다.

## 연구 방법

The AI Scientist는 두 가지 모드로 작동합니다. 첫째, "템플릿 기반" 모드는 사람이 제공한 코드 템플릿을 출발점으로 특정 주제에 대한 연구를 수행합니다. 둘째, "템플릿 없는" 모드는 더 적은 사전 지침으로 더 넓은 과학 탐색을 합니다. 시스템은 네 단계로 진행됩니다: (1) 아이디어 생성 및 문헌 검색으로 참신성 확인, (2) 실험 실행 및 결과 시각화, (3) 표준 학회 형식의 논문 작성, (4) 자동화된 동료 심사. 특히 템플릿 없는 버전은 "에이전틱 트리 검색"을 사용하여 여러 실험을 병렬로 탐색하고, 비전-언어 모델로 그래프 품질을 평가하며, 네 단계(초기 조사, 하이퍼파라미터 튜닝, 연구 수행, 제거 연구)로 구조화된 실험을 진행합니다.

평가를 위해 연구자들은 "Automated Reviewer"라는 자동 심사 시스템도 개발했습니다. 이 시스템은 NeurIPS 학회의 심사 기준을 따르며, 실제 인간 심사자와 비슷한 수준의 판단 정확도(균형 정확도 69%)를 보였습니다. 궁극적인 테스트로, 생성된 논문 세 편을 ICLR 2025의 "I Can't Believe It's Not Better" 워크숍에 블라인드 제출했습니다—심사자들은 일부 논문이 AI가 작성한 것을 알았지만 어떤 것인지는 몰랐습니다.

## 연구 결과

세 가지 핵심 결과가 나왔습니다. 첫째, Automated Reviewer는 인간 심사자와 비슷한 수준으로 학회 수락 결정을 예측했습니다. 둘째, The AI Scientist가 생성한 논문의 품질은 기초 모델의 발전과 테스트 시 컴퓨팅 자원의 증가에 따라 꾸준히 개선되었습니다. 셋째, 세 편의 AI 생성 논문 중 한 편이 평균 6.33점(6, 7, 6점)을 받아 워크숍의 평균 수락 기준을 넘겼습니다. 주최 측은 AI 생성임이 밝혀지지 않았다면 수락되었을 것이라고 밝혔습니다. 이 논문은 흥미로운 부정적 결과를 보고했는데, 이는 해당 워크숍의 주제와 잘 맞았습니다.

## 고찰과 한계

시스템은 아직 여러 한계가 있습니다. 세 편 중 한 편만 수락되었고, 워크숍은 본 회의보다 수락률이 훨씬 높습니다(70% 대 32%). 흔한 실패 유형으로는 미숙한 아이디어, 핵심 아이디어의 잘못된 구현, 깊이 있는 방법론적 엄밀성 부족, 실험 오류, 본문과 부록의 중복된 그림, 부정확한 인용 같은 환각 문제가 있습니다. 연구자들은 AI가 수행 가능한 작업의 길이가 7개월마다 두 배로 늘어나고 있어, 이런 구현 및 디버깅 병목 현상이 곧 해결될 수 있다고 전망합니다.

## 의의와 시사점

이 연구는 완전히 AI가 작성한 논문이 최상위 머신러닝 학회의 동료 심사를 통과한 최초의 사례를 보여줍니다. 이는 AI의 과학적 추론 능력이 성장하고 있음을 입증하며, 발견의 과정이 더 이상 전적으로 인간의 영역이 아니게 되었음을 시사합니다. 과학 발견의 속도가 획기적으로 가속화될 수 있는 새로운 시대의 서막을 알리는 것입니다.

## 왜 이 연구가 중요한가

이 연구의 중요성은 기술적 성취를 넘어 과학 전체의 미래를 재정의하기 때문입니다. 첫째, 연구 생산성의 폭발적 증가가 가능해집니다. AI가 24시간 연구를 수행하면 인간 연구자가 수 개월 걸릴 작업을 며칠 만에 완료할 수 있습니다. 둘째, 과학의 민주화가 진행됩니다. 자금이 부족한 연구자나 기관도 AI 과학자를 활용해 세계적 수준의 연구를 수행할 수 있습니다. 셋째, 그러나 중요한 위험도 존재합니다—심사 시스템의 과부하, 연구 자격의 인위적 부풀림, 타인 아이디어의 적절하지 않은 사용, 과학자 일자리 감소, 윤리적 문제나 위험한 실험 등입니다. 연구자들은 이런 시스템을 책임감 있게 개발하고, AI 생성 연구의 공개와 평가에 대한 명확한 표준을 과학 공동체가 수립해야 한다고 강조합니다. 이 연구는 단순한 기술 발전이 아니라, 과학이 어떻게 수행되고 평가되어야 하는지에 대한 근본적인 질문을 던지는 획기적인 전환점입니다.

출처: @ye._.vely618

이번에는 Zeroclaw다!!

지난번 안드로이드 공기계에서 Openclaw를 설치하다가 실패해서 이번에는 Zeroclaw를 설치해보도록 하겠습니다.

일단 이것저것 많이 사용해보는 것으로...

여기가 공식 홈페이지입니다

그리고 여기는 빠른 시작 페이지 되겠습니다.

Zeroclaw 설치

설치는 그렇게 어렵지 않습니다. (물론 이전에 Openwork에서 삽질을 하도 해서 그런 것일 수 도)

여기 설치 페이지에 가서 보면 간단합니다.

전 그 중에서 zeroclaw를 git clone해서 bootstrap하는 방법(원클릭 부트스트랩)으로 진행했습니다.

Zeroclaw 설치

그전에 Ubuntu 사용자인경우 사전 설치 해주면 좋을 것을 먼저 설치해주면 되겠습니다.

# Linux (Debian/Ubuntu)

# apt install build-essential pkg-config

# Rust toolchain

$ curl --proto '=https' --tlsv1.2 -sSf https://sh.rustup.rs | sh

그리고 추가적으로 시스템 의존성과 rust를 함께 해결하고자 아래와 같이 추가적인 옵션인 --install-system-deps --install-rust을 함께 실행하였습니다. 이미 위에서 rust를 설치하였으나 혹시 몰라서 다시 한번 더 옵션을 넣었습니다.

$ git clone https://github.com/zeroclaw-labs/zeroclaw.git

$ cd zeroclaw

$ ./install.sh --install-system-deps --install-rust

※ 다만 일반 계정에서 ./install.sh를 실행하였으나 스스로 필요한 것들을 설치하기 위해서 관리자 비밀번호를 요구하니 sudo 설정 하시고 진행하시기 바랍니다. 

Zeroclaw 실행 및 환경설정

Zeroclaw에서도 앞선 Openwork처럼 환경설정이 필요합니다. 

환경설정 파일은 홈 폴더의 숨김 폴더안에 생성됩니다. 

$ ls ~/.zeroclaw/config.toml

음... 어쩌면 아직 config.toml 파일이 없을 수 도 있습니다. 만약 없다면, 우선 Zeroclaw를 한번 실행시켜 주십쇼

$ zeroclaw gateway

그런 후 다시 종료 시키면 환경설정 파일 안에 이런 저런 파라미터 값들이 추가되어 있습니다.

지금이 환경설정을 수정해줘야하는 시간입니다. :)

저의 경우 provider는 ollama, model은 llama3.2:3b을 사용하고, 원격 윈도우에서 웹으로 접근하려고 하기 때문에 아래와 같이 수정하였습니다.

$ vi ~/.zeroclaw/config.toml

api_url = "http://localhost:11434"
default_provider = "ollama"
default_model = "llama3.2:3b"

[gateway]
port = 3000
host = "0.0.0.0"
require_pairing = true
allow_public_bind = true

6 digi code를 입력해서 원격 PC에서 브라우저를 통해서 Zeroclaw를 실행하였으나... 문제는 제대로 모델과 통신이 안되더라구요.

저는 처음에

$ zeroclaw onboard 

로 시작하지 않고,

$ zeroclaw gateway

로 시작했는데, 이렇게 시작하면서 ollama 모델과 제대로 통신을 못하는 것인지 아직 해결은 못했습니다.

중간에 onboard를 실행시키니 기존 config.toml을 모두 overwite해서 기존 환경설정이 어그러져있더라구요.

ollama는 정상적으로 작동하는 것 처럼 보이는데 zeroclaw의 환경설정에서 제가 무엇인가 제대로 설정을 못잡아 준 것 같습니다. :)

다시 Zeroclaw와 함께 Openclaw, Openjarvis도 한번 설치해서 연동까지만 진행하는 기록들을 작성해보도록 하겠습니다. :)

출처: @ye._.vely618

로컬PC에서 LLM모델을 구동시켜보자. (Openwork를 사용해보자, 수정)

이전 글에 이어서 계속 진행해보도록 하겠습니다. 계속 연결되는 내용이지만 OS를 Ubuntu 25.10 (LTS아님) 로 변경해서 진행했습니다. :)

 

우선 이전 글에서 진행 하지 않은 것이 있어서... 일을 시키려면 뇌에 해당하는 모델을 가져와야죠

ollama 모델 다운로드

ollama가 문제 없이 설치되었다면 모델들을 아래와 같이 땡겨 올 수 있습니다.

$ ollama pull llama3.2:1b

$ ollama pull qwen3.5:0.8b

$ ollama pull qwen2.5-coder:0.5b

$ ollama pull opencoder:1.5b

아니.. 파라미터가 1b 이게 무엇이냐 하신다면, 이거는 사실 그냥 연결되서 작동하는지에 대해서 테스트 해보는 것이라서 굳이 불필요하게 큰 모델들을 다운로드해서 테스트 하지 않고자 작은것들만 고른 겁니다. :)

방화벽해제

# su -

# ufw allow 3000

# ufw allow 5173 

# ufw allow 4096

# ufw allow 11434 

일단 눈에 보였던 포트들을 미리미리 허용해놓는 것이라서 이것보다 더 많을 수도 있습니다. :)

근데 방화벽 허용도 굳이 안해도 되지 않을까 합니다. 허용안한 35071 포트로 접근이 그냥 됩니다. 

Opencode 설정

Opencode 설치 후 그냥 알아서 ollama와 연동되서 모델을 사용할 줄 알았는데...

LLM이 무엇이든 대답해주고 AI 개인 비서를 두는 시대에도 설정 파일이 필요하다는 것을 망각했네요.. 아무리 시간이 흘러도 첫 셋팅할 때는 환경 설정이 중요합니다.

일반계정에서 설치 했다면 ~/.opencode/opencode.json 아래 Openwork 설치 후 Openwork 폴더 아래에 숨김폴더로 opencode가 생겼을 겁니다. 바로 그 폴더안에 .opencode/opencode.json 경로에 opencode.json파일이 있을 수 도 없을 수도 있습니다. 있다면 아래와 같이 수정을, 없다면 생성해서 아래와 같이 내용을 적어주세요 :)

{
  "$schema": "https://opencode.ai/config.json",
  "provider": {
    "ollama": {
      "name": "Ollama (local)",
      "options": {
        "baseURL": "http://localhost:11434/v1"
        },
      "models": {
        "qwen3.5:0.8b": {
        "name": "Qwen 3.5 0.8B"
        },
        "opencoder:1.5b": {
        "name": "OpenCoder 1.5B"
        }
      }
    }
  }
}

Opencode 실행(응 필요없음)

Openwork는 Opencode가 있어야 하기 때문에 Opencode가 뒷단에서 돌아가주고 있어야한다고 하네요. 일단 아래와 같이 실행시켜 주었는데...

$ opencode --hostname 0.0.0.0 web

※ 음... 그래도 어제보다는 무엇인가 한걸음 나아간것 같습니다.

결국엔 opencode를 뒷단에서 굳이 따로 실행시켜 주지 않아도 되는듯 합니다. :)

Openwork 설치

드디어 설치 Openwork를 설치합니다. npm으로 pnpm과 bun을 설치해주고 아래와 같이 진행해주면 일단 원격에서 접속은 되더라구요

※ 아.. 큰 수정사항이 있습니다. rust설치와 cargo 실행을 굳이 관리자 계정으로 할... 필요가 없었습니다... 

# npm install -g pnpm

# npm install -g bun

$ curl --proto '=https' --tlsv1.2 -sSf https://sh.rustup.rs | sh

$ source $HOME/.cargo/env

$ cargo install tauri-cli

/*cargo install tauri-cli 명령어 수행시 timeout으로 설치 실패가 된다면 다시 시도 해주면 다시 설치 진행합니다. */

$ git clone https://github.com/different-ai/openwork.git

$ cd openwork

$ pnpm install

$ pnpm approve-builds

$ pnpm dev //터미널1

※ 현재 여기서 "Exit status 101" 라고 에러가 발생하고 죽어버려서 해결중에 있습니다.

$ pnpm dev:ui --host 0.0.0.0 -d //터미널2

$ pnpm dev:headless-web --host 0.0.0.0 -d 

위와 같이 터미널1에서는 dev를 터미널2에서는 dev:ui 실행시켜 주면 원격에 있는 윈도우 PC에서 브라우저로 Openwork에 접속 하는 것을 보실 수 있습니다.

근데 브라우저로 접근은 되는데;;;;

거기까지가 끝입니다. remote worker를 연결하려고 하는데... 이게 안되더라구요

→ pnpm dev:ui는 UI관련된 업무를 하는 것이었다면, pnpm dev가 실제 일하는 worker를 구동하게 하는 것이라고 합니다.

작업하면서 놓친 부분이 있을 것 같아서 다시 더 검색해보고 진행해보고 다시 글을 작성해보도록 하겠습니다.

추가적으로 한 작업으로는 

# apt install libgdk-pixbuf-xlib-2.0-dev

# apt install ubuntu-desktop

해서 GUI로 접근할 수 있도록 설치 했습니다. pnpm dev의 에러가 화면과 관련된 내용들이어서 이전 작업들과 차이점은... GUI 관련 툴들을 모두 설치했다는 것 되겠습니다. 

그래서 GUI로 로그인해서 pnpm dev를 실행시키면 화면에 창이 하나 뜨면서 바로 Openwork가 실행되는.. 좀 맥이 빠지는 상황이...

그래서 pnpm 실행 모드를 perplexity에게 물어보니 dev:headless-web 실행시켜보라고 하더라구요. 그래서 일단 GUI 상태에서 

$ pnpm dev:headless-web --host 0.0.0.0 -d

수행하고 원격에서 접근하니 dev:ui와 같이 브라우저에서 잘 작동하였습니다.

기존 dev:ui와 다른 점은 GUI에서 실행한 터미널 창에 TOKEN정보를 보여주는것이 차이점인지라 원격 연결 할 때 IP:PORT와 함께 TOKEN 정보를 함께 입력하니 활성화되는것을 확인하였습니다.

그리고 opencode 서버를 작동시키지 않았는데 알아서 잘 연결합니다;;

내일 다시 한번 확인을 해보고 좀 더 추가 내용을 작성하도록 하겠습니다. :)

안되면 최근에 나온 오픈자비스를 돌려보던지..... 아니면 다른 claw를 사용해보던지.. 해봐야죠 :)

출처: @ye._.vely618

로컬PC에서 LLM모델을 구동시켜보자. (OpenCode까지, 수정)

우분투가 설치된 로컬PC에서 여러 LLM들을 돌려보고자 OpenCode/OpenWork 설치를 시도하고 있는 것을 공유차 올려봅니다. :)

우선 현재 테스트 한 머신은 Intel i5, 16G 메모리(DDR3), 500G HDD, Intel 내장형 그래픽카드를 사용하는 PC되겠습니다!! 

지금은 Ubuntu 22.04.5 LTS를 기본 OS로 해서 OpenCode/OpenWork를 설치 테스트를 했는데

OpenCode까지는 큰 무리없이 설치가 마무리되었는데 OpenWork를 설치하는데 계속 에러가 빈번하게 발생해서 우선 지금까지 경험한 내용을 공유하도록 하겠습니다. 

1. Ubuntu 설치

Ubuntu 홈페이지가서 iso 파일을 다운로드 받아, 집에서 굴러다니는 USB 하나에 부팅/설치 USB로 만들어서 공 기계에 설치를 해주시면됩니다. 
(현재 저는 Ubuntu 22.04.5 LTS로 진행했는데, Ubuntu 24.04.4 LTS로 변경해서 진행할 예정입니다. )

2. 기본 설정 (root 권한)

Ubuntu를 다 설치 했다면 이것저것 설치할 때 관리자 권한을 요구하기도 하고 걍 root로 대부분 설치하게되더라구요;; 그래서 root 권환 확보가 필요합니다.

$ sudo passwd root

그러면 패스워드 입력하라고 하는 프롬프트가 나오는데 그냥 적어주시면 됩니다.

$ su -

# apt update
# apt upgrade

그리고 추가적으로 필요한 패키지나 tool들을 설치해야합니다.
※ 보통 이미 설치되어 있는 tool들도 있는데 혹시나해서 넣어놨습니다.

# apt install ufw git curl bzip2 wget cmake build-essential unzip libssl-dev libffi-dev pigz

gcc-10 g++-10 gcc g++ file plocate libgtk-3-dev libayatana-appindicator3-dev librsvg2-dev libjavascriptcoregtk-4.1-0 libsoup-3.0-0 libsoup-3.0-common libwebkit2gtk-4.1-0 libwebkit2gtk-4.1-dev nodejs npm

다 설치 후 원격 접속을 위한 ssh 접근 허용을 위해서 이렇게 포트를 열어줍니다.

# ufw allow ssh

나중에 더 필요하면 포트를 열면 됩니다. 포트 8080을 사용하고자 한다면 

# ufw allow 8080

3. Ollama 설치
Ollama 설치를 일반 계정으로 진행해보려고 했는데 sudo를 물어봐서 걍 관리자 권한인 root 계정으로 들어가서 했으니 참고 부탁드립니다.

# curl -fsSL https://ollama.com/install.sh | sh

이렇게 install.sh 실행시켜 주면 ollama serve 서비스 등록까지 되어서 이미 실행되고 있을 겁니다.
사실 할게 딱히 없습니다.

설치는 관리자 계정으로 진행했지만 파일 다운로드 받거나 하는 것은 일반 계정으로 진행해도 상관없습니다.

$ ollama list

ollama 모델을 로딩 할 때 run으로 하면 되는데 그전에 로컬에 다운로드 받아 놓고 사용하면 좋을 것 같아서 로컬 저장소로 모델을 pull 해놓습니다. :)

$ ollama pull <model name>

4. Opencode 설치

오픈코드도 설치는 문제가 없습니다. su를 이용해서 관리자 권한으로 들어가서 설치 스크립트를 수행하면 설치 완료!! 

# curl -fsSL https://opencode.ai/install | bash

아.. 정정사항이 있습니다. Opencode 설치시 관리자 계정이 아닌 일반 계정에서도 문제없이 설치 됩니다. :)

$ curl -fsSL https://opencode.ai/install | bash

$ source ~/.bashrc

로 명령어를 실행시켜 주시면 설치되고 사용할 수 있습니다. :)

이제 이 다음부터가 문제입니다. Orz

커밍 쑨...

출처: @ye._.vely618