DLM(Diffusion Language Model)에 대한 비판 1부

나는 DLM(Diffusion Language Model)이 기존 LLM의 발전 방향이 아니라고 본다. 단순히 효과가 의심스럽다는 수준이 아니라, 구조적으로 기존 LLM보다 더 나빠지는 방향이라고 본다.

많은 DLM 연구들은 병렬 생성, 전체 문장 수정, 정합성 향상, 인간의 초안-수정 방식과 유사함 등을 장점으로 제시한다.

그러나 나는 이 장점들이 실제 장점이 아니거나, 오히려 새로운 문제를 만들어낸다고 본다.

1. 현재 LLM의 핵심 문제를 잘못 진단했다

현재 LLM의 주요 한계는 토큰을 순차적으로 생성하는 것이 아니다.

현재 LLM의 문제는 다음과 같은 것들이다.

- 추론 능력
- 세계 모델(World Model)
- 장기 기억
- 의미 이해
- 사용자 의도 파악
- 사실 검증
- 할루시네이션

그러나 DLM은 이러한 문제를 해결하지 않는다.

DLM은 단지 출력 방식을 바꾼다.

즉, 엔진의 출력은 그대로인데 변속기만 바꾸는 수준이 아니라, 엔진 출력은 그대로인데 차체 구조만 복잡하게 만드는 것에 가깝다.

문제 자체를 잘못 진단한 것이다.

2. 병렬 생성은 실제 장점이 아니다

DLM은 전체 문장을 동시에 생성하고 반복적으로 수정한다고 주장한다.

그러나 언어는 본질적으로 의미 의존성을 가진다.

문장의 앞부분과 뒷부분은 서로 영향을 준다.

따라서 병렬 생성이 이루어지더라도 결국은 정합성을 맞추기 위한 재조정 과정이 필요하다.

병렬 생성

↓

의미 충돌

↓

재조정

↓

재생성

↓

재조정

↓

재생성

결국 병렬 생성으로 얻은 이득을 정합성 유지 비용이 다시 잡아먹는다.

즉, 순차 문제를 병렬 문제로 해결한 것이 아니라, 순차 문제를 우회한 뒤 다시 정합성 작업을 수행하는 구조가 된다.

3. GPU 병렬화 논리는 착시다

DLM은 종종 GPU 병렬화를 장점으로 제시한다.

그러나 현재 LLM 역시 내부적으로는 이미 엄청난 병렬 계산을 수행한다.

토큰이 순차적으로 출력된다고 해서 GPU가 순차적으로 계산하는 것은 아니다.

현재 LLM은 이미 수많은 병렬 행렬 연산을 수행한다.

따라서

토큰 순차 출력

=

GPU 비효율

이라는 전제 자체가 틀렸다고 본다.

DLM이 해결하려는 병목은 실제 병목이 아닐 가능성이 높다.

4. 지능의 원천은 그대로다

DLM은 새로운 지식을 만들어내지 않는다.

DLM은 새로운 세계 모델을 제공하지 않는다.

DLM은 새로운 추론 원리를 제공하지 않는다.

DLM은 결국 기존 언어모델이 학습한 지식을 사용한다.

즉,

지능 증가 없음

추론 원천 증가 없음

지식 증가 없음

세계 모델 증가 없음

이다.

그런데 계산량과 복잡성은 증가한다.

이것은 발전이 아니라 부담 증가에 가깝다.

5. 내부 수정은 새로운 능력이 아니다

DLM은 전체 문장을 수정할 수 있다고 주장한다.

그러나 현재 LLM도 이미 수정 가능하다.

사용자는 현재도

다시 써줘

더 짧게

더 길게

논리 보강

이 부분 수정

등을 반복한다.

즉 수정은 이미 존재하는 기능이다.

DLM은 기존에 가능하던 수정 과정을 모델 내부로 이동시킨 것에 가깝다.

새로운 능력이 아니라 구현 위치가 바뀐 것이다.

6. 상태(State) 관리 비용이 증가한다

현재 LLM은 이미 컨텍스트 크기 문제를 안고 있다.

컨텍스트가 길어질수록 비용이 증가한다.

그런데 DLM은 전체 문장을 반복적으로 수정한다.

이는 더 많은 상태를 유지해야 함을 의미한다.

더 많은 문맥

더 많은 중간 상태

더 많은 연결 정보

더 많은 정합성 정보

가 필요해진다.

즉 시스템이 유지해야 할 짐이 증가한다.

7. 할루시네이션 수정 비용이 더 커진다

현재 LLM도 할루시네이션을 발생시킨다.

그러나 DLM은 정합성을 높이는 과정에서 문장 전체를 서로 강하게 연결한다.

만약 일부 정보가 할루시네이션이라면 문제가 발생한다.

예를 들어 하나의 잘못된 정보가 전체 정합성 구조 안에 포함되면, 이후 생성된 많은 내용들이 그 잘못된 정보를 전제로 구성될 수 있다.

그 결과 잘못된 정보를 발견했을 때 단순히 해당 부분만 수정하는 것이 어려워진다.

수정 범위가 계속 확장된다.

8. 긴 대화에서 할루시네이션 영향이 더 커진다

대화가 길어질수록 상태는 누적된다.

정합성 연결도 늘어난다.

그러면 잘못된 정보 하나가 더 넓은 영역에 영향을 준다.

현재 LLM도 긴 대화에서 오류 누적 문제가 있다.

그러나 DLM은 구조적으로 더 강한 연결성을 추구한다.

따라서 잘못된 정보가 더 넓게 퍼질 가능성이 있다.

9. 오류 정정 비용은 기하급수적으로 증가한다

이것이 가장 큰 문제 중 하나다.

채팅이 길어질수록 정보 간 연결 수가 증가한다.

DLM은 정합성을 높이기 위해 더 많은 연결을 만든다.

그러면 중간에 오류가 발견되었을 때 문제가 발생한다.

예를 들어 초기의 정보 A가 틀렸다고 밝혀졌다고 가정하자.

그러면 A만 수정하는 것이 아니라,

A를 기반으로 생성된 B

A를 기반으로 생성된 C

A를 기반으로 생성된 D

A를 기반으로 생성된 E

...

를 다시 검토해야 한다.

대화가 길어질수록 연결 수는 계속 증가한다.

따라서 오류 정정 비용은 기하급수적으로 증가한다.

이것은 단순한 성능 문제가 아니다.

시스템 유지 자체의 문제다.

10. 결론

DLM은 기존 LLM의 문제를 해결하지 못한다.

반면 다음과 같은 요소들은 증가한다.

- 계산량
- 상태량
- 정합성 유지 비용
- 오류 수정 비용
- 시스템 복잡성

반면 증가하지 않는 것은 다음과 같다.

- 지능
- 지식
- 추론 원천
- 세계 모델

즉 DLM은 엔진 출력을 높인 것이 아니다.

기존 엔진은 그대로 둔 채 차량 무게만 크게 늘린 것에 가깝다.

따라서 나는 DLM을 발전 방향이 아니라, 구조적으로 기존 LLM보다 더 나빠지는 방향이라고 본다.