Q : 이 논문을 아주 자세하게 읽고 논문의 강점과 독창적인 지점을 설명해주고 핵심 알고리즘을 예시 입력을 들어서 전체적인 과정을 설명해줘 추가적으로 논문의 한계점에 대해서도 알려줘

A :

논문의 주요 내용과 분석을 다음과 같이 요약하겠습니다:

논문의 강점 및 독창성

독창적 아이디어: 기존 Vision Transformer(ViT) 모델의 토큰 처리 속도를 향상시키기 위해 “토큰 병합(Token Merging, ToMe)” 기법을 제안했습니다. 이는 토큰을 단순히 제거하는 것이 아니라 병합하여 정보를 보존하며 처리 속도를 향상시키는 방식입니다.
범용성: ToMe는 이미지, 비디오, 오디오 등 다양한 입력 형태에 대해 적용 가능하며, 추가 학습 없이도 기존 모델에 바로 적용할 수 있습니다.
효율성: ToMe를 사용하면 ViT-L/16 모델에서 약 2배의 처리량(throughput) 증가를 이루면서도 정확도는 0.2% 정도만 감소합니다. 이는 기존 토큰 제거 방식보다 더 효율적입니다.
간단한 구현: ToMe는 몇 줄의 코드로 구현 가능하며, 계산 비용이 매우 낮습니다.

핵심 알고리즘 설명

알고리즘 과정

토큰 유사도 계산:
- 토큰의 Key 벡터 간 코사인 유사도를 계산하여 병합할 토큰을 선택합니다.
이분 매칭(Bipartite Matching):
- 토큰을 두 그룹(A, B)으로 나누고, A의 각 토큰을 B의 가장 유사한 토큰과 매칭합니다.
- 가장 높은 유사도를 가진 r개의 매칭을 선택합니다.
토큰 병합:
- 선택된 토큰 쌍을 병합하여 평균 값을 사용해 새로운 토큰을 생성합니다.
- 병합 후 크기를 추적하여 각 토큰의 영향력을 소프트맥스와 같은 계산에서 보정합니다.
통합:
- 병합된 토큰 집합을 원래 순서로 재배열합니다.

예시 입력

입력 이미지가 (16 \times 16) 패치로 나뉘어 있고, 256개의 토큰이 생성된다고 가정합니다.
병합 비율 (r=2)라면, 한 층에서 2개의 토큰 쌍이 병합되어 254개의 토큰이 다음 층으로 전달됩니다.
이 과정을 네트워크의 각 층에서 반복하여 최종적으로 대부분의 토큰이 병합됩니다.

논문의 한계점

정확도 감소:
- ToMe는 병합 과정에서 약간의 정보 손실이 발생하여 정확도가 감소합니다. 예를 들어, ViT-L 모델에서 2배 속도로 처리할 경우 약 0.2~0.3%의 정확도 손실이 발생합니다.
비정적 입력 대응 부족:
- ToMe는 모든 입력에 대해 고정된 비율로 토큰을 병합하므로, 입력 데이터의 복잡성이 달라질 때 적응력이 부족할 수 있습니다.
세부 작업에서의 평가 부족:
- 본 연구는 주로 분류 작업에 초점을 맞추고 있으며, 물체 검출이나 분할 같은 세부적인 작업에서의 효과는 추가 검증이 필요합니다.
모델 확장 한계:
- ToMe는 대규모 ViT 모델에서 효과적으로 동작하지만, 다른 모델 구조와 결합할 때의 성능은 명확히 분석되지 않았습니다.

위 내용을 통해 논문의 주요 기여와 한계점을 종합적으로 이해할 수 있습니다. 추가로 알고 싶은 세부 내용이나 구현 관련 질문이 있다면 말씀해주세요!

Q : 논문의 핵심알고리즘을 예시를 들어 아주 자세하게 설명해주고 정리해 줘

A :

논문의 핵심 알고리즘인 Token Merging (ToMe)를 예시와 함께 자세히 설명하겠습니다.

Token Merging 알고리즘

ToMe는 Vision Transformer(ViT) 모델의 토큰 병합 과정을 통해 모델의 효율성을 높이고 처리 속도를 증가시키는 방법입니다. 이는 다음과 같은 주요 단계로 구성됩니다:

1. 토큰 유사도 계산

각 토큰의 “유사도”를 정의하여 병합 대상이 될 토큰 쌍을 결정합니다.

특징 벡터 활용:
- ViT의 Key (K) 벡터를 사용하여 토큰 간 유사도를 계산합니다.
- Key는 Transformer의 Attention 메커니즘에서 각 토큰이 얼마나 중요한지를 나타내는 정보입니다.
유사도 측정 방식:
- 코사인 유사도(cosine similarity)를 사용하여 두 토큰 간의 유사성을 계산합니다: [ \text{Similarity}(K_i, K_j) = \frac{K_i \cdot K_j}{|K_i| |K_j|} ]

2. 이분 매칭(Bipartite Matching)

토큰을 두 개의 그룹 (A)와 (B)로 나누고, 병합 과정을 수행합니다.

토큰 분할:
- 전체 토큰을 두 그룹 (A)와 (B)로 나누어 각 그룹의 크기가 거의 같도록 설정합니다.
매칭 수행:
- (A)의 각 토큰을 (B)의 가장 유사한 토큰과 연결합니다.
- 가장 높은 유사도를 가진 (r)개의 매칭을 선택합니다.

3. 토큰 병합

선택된 토큰 쌍을 병합하여 새로운 토큰을 생성합니다.

병합 방법:
- 병합된 토큰의 특징 벡터는 평균값으로 계산합니다: [ X_{\text{merged}} = \frac{s_i \cdot X_i + s_j \cdot X_j}{s_i + s_j} ] 여기서 (s_i)와 (s_j)는 각 토큰의 크기(병합에 포함된 입력 패치 수)를 나타냅니다.
토큰 크기 추적:
- 병합된 토큰이 몇 개의 입력 패치를 포함하는지 크기를 기록합니다.
- 이 크기는 이후 Attention 계산에서 보정에 사용됩니다.

4. Proportional Attention 보정

병합된 토큰이 Attention 계산에 미치는 영향을 보정합니다.

병합 후 토큰 크기를 반영하여 Attention 점수를 조정합니다: [ A = \text{softmax}\left(\frac{Q K^T}{\sqrt{d}} + \log(s)\right) ] 여기서 (s)는 각 토큰의 크기를 나타냅니다.

예시: 입력 이미지에 ToMe 적용하기

입력

(16 \times 16) 크기의 이미지 패치를 입력으로 받아 256개의 토큰이 생성된다고 가정합니다.
병합 비율 (r = 2) (한 층에서 2개의 토큰 쌍 병합).

과정

토큰 유사도 계산:
- 각 토큰의 Key 벡터를 사용하여 (256 \times 256)의 유사도 행렬 생성.
- 예를 들어, 토큰 (i)와 (j)의 유사도는 0.9, (k)와 (l)의 유사도는 0.85로 계산된다고 가정.
이분 매칭:
- (256)개의 토큰을 두 그룹 (A)와 (B)로 나눔 ((A = 128), (B = 128)).
- (A)의 각 토큰에서 (B)의 가장 유사한 토큰과 매칭:
  - 예: (i)는 (j)와 매칭(유사도 0.9), (k)는 (l)과 매칭(유사도 0.85).
토큰 병합:
- (i)와 (j), (k)와 (l)을 병합하여 새로운 토큰 생성: [ X_{\text{merged}} = \frac{s_i \cdot X_i + s_j \cdot X_j}{s_i + s_j} ]
- 결과적으로 병합 후 토큰 개수는 (256 - r = 254).
Proportional Attention 적용:
- 병합 후 생성된 토큰의 크기를 기록하고, Attention 계산에서 이를 반영하여 보정.

결과

첫 번째 층에서 토큰이 (256 \rightarrow 254)로 줄어듭니다.
이 과정을 각 층에서 반복하여 마지막에는 약 98%의 토큰이 병합됩니다.

정리

단계별 병합:
- ToMe는 각 층에서 병합을 점진적으로 수행하며, 입력 데이터의 정보가 손실되지 않도록 합니다.
간단한 구현:
- 이 과정은 간단한 유사도 계산과 평균 연산만으로 구현 가능하여 계산 비용이 낮습니다.
속도 향상:
- 토큰 수가 줄어들어 Attention 연산 비용이 감소하고, 모델의 처리 속도가 크게 향상됩니다.

ToMe는 효율적이고 정보 보존적인 방식으로 Transformer 모델의 성능을 개선하며, 다양한 입력 데이터에 쉽게 적용할 수 있습니다.

Q : 이 논문에서 제시한 결과를 자세하게 보고 다른 방법론에 비하여 특출난 점과 논문에서 제기하는 어떠한 방법이 이러한 결과를 도출하게 되었는지 논문에서 제시하는 이유와 너의 생각을 알려줘

A :

논문에서 제시한 결과와 그 의미, 그리고 다른 방법론과 비교해 특출난 점과 이를 뒷받침하는 논문에서 제기한 이유 및 제 의견을 아래에 정리하겠습니다.

논문에서 제시한 주요 결과

처리 속도(Throughput) 향상:
- ViT 모델에서 Token Merging(ToMe)을 적용한 결과, 처리 속도가 약 2배 증가하면서도 정확도 손실은 미미함(0.2~0.4%).
- 예를 들어, ViT-L 모델에서 ToMe를 적용하면 정확도는 85.96%에서 85.82%로 약간 감소했으나, 처리 속도는 약 2배로 증가.
다양한 입력 데이터에서 범용적 성능:
- ToMe는 이미지(ImageNet-1k), 비디오(Kinetics-400), 오디오(AudioSet) 등의 다양한 데이터에 대해 적용 가능.
- 비디오에서는 2.2배의 처리량 증가와 0.2% 정확도 손실로 기존 방법보다 뛰어난 성능을 보임.
- 오디오에서도 약 2배의 처리량 증가와 0.4%의 성능 감소(mAP 기준)를 달성.
비교 실험:
- 기존의 Token Pruning 방식과 비교 시, ToMe는 추가 학습 없이도 기존 모델에 바로 적용 가능하며, 더 나은 속도-정확도 균형을 달성함.
- 다른 토큰 감소 기법(A-ViT, DynamicViT 등)에 비해 훈련 및 추론 모두에서 속도 향상이 가능.

다른 방법론과 비교해 특출난 점

학습 없이 사용 가능:
- 기존의 Token Pruning 방식은 새로운 방식에 맞게 모델을 재학습해야 하지만, ToMe는 이미 학습된 모델에 바로 적용 가능.
- 이는 특히 대규모 모델에서 추가 학습 비용을 절감하는 데 매우 유리.
정보 손실 최소화:
- Token Pruning 방식은 불필요한 토큰을 제거하는 방식이지만, 이는 정보 손실로 인해 정확도 감소를 초래.
- 반면 ToMe는 토큰을 병합(merge)하여 정보를 보존하므로 정확도 감소를 최소화함.
실제 처리 속도 증가:
- ToMe는 실제 처리 속도(Throughput)에서 성능이 뛰어나며, 다른 방법론이 처리량 향상을 이론적으로만 주장하는 것과 달리 실질적으로도 성능을 입증.
다양한 도메인에 대한 적용성:
- 이미지뿐만 아니라 비디오와 오디오 데이터에 대해 동일한 방식으로 효과적으로 적용 가능.
- 이는 ToMe가 데이터의 모달리티에 독립적임을 보여줌.

논문에서 제기하는 이유

유사도 기반 병합:
- 병합 대상 토큰을 Key 벡터 간 유사도 계산으로 선택하여 정보가 유사한 토큰만 병합.
- 이는 비슷한 정보끼리 병합되도록 하여 정보 손실을 최소화함.
Bipartite Matching 알고리즘의 효율성:
- 간단한 이분 매칭 방식을 도입하여 병합 프로세스의 계산 비용을 낮추고, 속도를 크게 향상.
- 기존의 복잡한 클러스터링 방식(k-means 등)보다 빠르고 정확.
Proportional Attention:
- 병합된 토큰의 크기를 추적하고, Attention 계산 시 이를 반영하여 병합이 성능에 미치는 부정적 영향을 최소화.
훈련 중 및 훈련 없이 사용 가능:
- ToMe는 이미 학습된 모델에서 바로 사용할 수 있는 동시에, 훈련 중에도 적용하여 학습 시간을 단축.

제 의견

ToMe가 특출난 결과를 도출한 주요 요인은 간단함과 효율성이라고 생각합니다.

효율적인 알고리즘 설계:
- ToMe의 이분 매칭 알고리즘은 병합 대상 선정 과정에서 계산량을 크게 줄이면서도 높은 정확도를 유지할 수 있도록 설계되었습니다.
- 특히, Key 벡터와 코사인 유사도를 사용한 유사도 계산은 ViT 모델의 구조와 자연스럽게 결합됩니다.
정보 손실 최소화:
- 기존의 Token Pruning 방식은 필요 없는 정보를 제거하려다 오히려 중요한 정보를 잃는 경우가 많습니다. ToMe는 토큰을 병합하는 방식으로 이 문제를 해결한 점이 돋보입니다.
현실적인 유용성:
- ToMe는 학습 없이 사용 가능하고 다양한 입력 데이터 유형에 적용될 수 있어 실제 산업 응용에도 매우 유리합니다.
미래의 확장성:
- ToMe는 Segmentation, Detection 같은 세부적인 작업에도 확장 가능성이 보이며, 다른 모델 구조(Swin, MViT)와 결합하면 더 높은 성능을 기대할 수 있습니다.

결론

ToMe는 비효율성을 해결하면서도 정확도를 유지하는 혁신적인 토큰 병합 방식을 도입하여 ViT 모델의 실질적인 처리 성능을 크게 향상시켰습니다. 특히 간단한 구현과 범용성이 돋보이며, 이는 앞으로 Transformer 기반 모델의 효율화에 중요한 역할을 할 가능성이 높습니다.

Q : 이 논문의 입력데이터와 추론 과정에 대해서 예시를 들어 아주 자세하게 설명해 주겠니? 추가적으로 모델아키텍처의 구성 및 모델을 구성하는 연산과 메모리 요구량 컴퓨팅 요구량 대해서도 설명해줘

A :

논문의 입력 데이터와 추론 과정, 모델 아키텍처 구성, 연산, 메모리 및 컴퓨팅 요구량을 예시와 함께 상세히 설명하겠습니다.

입력 데이터와 추론 과정

입력 데이터

이미지:
- 입력 데이터는 (224 \times 224) 해상도의 이미지를 (16 \times 16) 크기의 패치로 나눕니다.
- 각 패치는 (16 \times 16 \times 3 = 768)차원의 벡터로 변환되며, (224/16 = 14)이므로 총 196개의 패치가 생성됩니다.
- 이를 벡터화하여 (196 \times 768)의 입력 시퀀스로 변환.
비디오:
- 비디오는 시간축을 포함하며, (T \times H \times W) 크기의 프레임이 입력됩니다.
- 예를 들어, (16 \times 224 \times 224) 크기의 비디오는 시간축(16 프레임)과 공간축에서 각각 패치로 나눠집니다.
- 각 프레임이 (224 \times 224) 크기이므로 동일한 방식으로 (14 \times 14) 패치로 나뉘며, (16)개의 프레임으로 인해 (16 \times 196)개의 토큰이 생성됩니다.
오디오:
- 오디오 데이터는 스펙트로그램으로 변환한 뒤 이미지와 유사한 방식으로 패치 처리.
- 예를 들어, (128 \times 128)의 스펙트로그램 입력은 (16 \times 16) 패치로 나뉘어 총 (64)개의 패치가 생성.

추론 과정

1. 토큰 생성

입력 데이터를 패치로 나눈 후 각 패치를 벡터화하여 초기 토큰을 생성합니다.
각 토큰은 고유한 위치 정보를 나타내는 포지셔널 임베딩을 추가로 포함합니다.

2. Transformer 연산

각 토큰은 Transformer 블록을 통과하며, 각 블록에서 Attention 연산 및 Feed-Forward Network(FFN)로 처리됩니다.

3. Token Merging(ToMe) 적용

ToMe 단계:
- 각 Transformer 블록 사이에서 토큰 유사도를 계산하고 유사한 토큰을 병합.
- 예: 196개의 토큰에서 (r = 8)로 설정 시, 한 층에서 8개의 토큰이 병합되어 (188)개의 토큰이 생성.
- 이를 모든 층에서 점진적으로 반복.

4. 최종 출력

마지막 Transformer 블록을 통과한 후, 남아 있는 토큰 중 대표 토큰(예: Class 토큰)을 사용해 최종 예측 수행.
예측 결과는 분류(classification), 회귀(regression) 등 작업에 따라 달라짐.

모델 아키텍처의 구성

1. 기본 ViT 구성

입력 임베딩:
- 입력 패치를 벡터화하고 포지셔널 임베딩을 추가.
Transformer 블록:
- 각 블록은 다음과 같은 두 주요 부분으로 구성:
  - Self-Attention: 입력 토큰 간의 관계를 계산.
  - Feed-Forward Network(FFN): 각 토큰의 정보를 독립적으로 변환.
출력 레이어:
- Class 토큰을 기반으로 최종 예측.

2. ToMe 통합

각 Transformer 블록의 Attention과 FFN 사이에 ToMe를 삽입.
ToMe는 토큰 병합을 수행하여 토큰 수를 점진적으로 감소.

모델을 구성하는 연산

Self-Attention 연산:
- 복잡도: (O(n^2 \cdot d)), (n)은 토큰 수, (d)는 임베딩 차원.
- ToMe 적용 후 (n)이 감소하므로 복잡도 감소.
Feed-Forward Network(FFN):
- 복잡도: (O(n \cdot d^2)).
- ToMe 적용으로 (n) 감소로 효율화.
Token Merging:
- 복잡도: (O(n)), 유사도 계산과 병합에만 추가 비용이 소요.

메모리 및 컴퓨팅 요구량

1. 메모리 요구량

기본 ViT:
- Self-Attention의 메모리 사용량은 (O(n^2))로, 토큰 수 (n)이 메모리 요구량을 결정.
- 예: (n = 196), (d = 768)일 경우, Attention 계산에 (196^2 \cdot 768)의 메모리 사용.
ToMe 적용:
- 토큰 병합으로 (n)을 점진적으로 줄이므로 메모리 사용량이 크게 감소.

2. 컴퓨팅 요구량

기본 ViT:
- Attention과 FFN의 연산량은 (O(n^2 \cdot d)) 및 (O(n \cdot d^2)).
- 예: (n = 196), (d = 768)일 때, Self-Attention에서 (196^2 \cdot 768), FFN에서 (196 \cdot 768^2)의 연산.
ToMe 적용:
- 각 층에서 (n)이 감소하므로 연산량이 선형적으로 감소.
- 예: 12층의 Transformer에서 (n = 196 \rightarrow 128)로 감소할 경우, 전체 연산량이 약 35% 절감.

정리

입력 데이터:
- ToMe는 이미지, 비디오, 오디오 등 다양한 데이터에 대해 동일한 방식으로 처리.
추론 과정:
- 토큰 병합을 통해 정보 손실을 최소화하면서 처리 속도와 메모리 효율성을 높임.
모델 구성:
- Transformer 구조에 ToMe를 삽입해 토큰 병합 과정 추가.
연산 및 메모리 효율성:
- Self-Attention과 FFN 연산량이 토큰 감소로 선형적으로 감소하며, 메모리 사용량도 크게 줄어듦.

ToMe는 Transformer 기반 모델의 연산 효율성을 크게 개선하며, 특히 대규모 데이터셋과 모델에서 실질적인 처리 속도 및 메모리 사용량 절감을 제공하는 강력한 접근법입니다.

Q : 이 논문의 한계를 극복하기 위한 방법으로 어떤 연구흐름이 있는지 정리해서 자세하게 설명해 줘

A :

논문에서 제시한 Token Merging (ToMe) 기법은 효율성과 성능의 균형을 훌륭하게 잡았지만, 몇 가지 한계점이 존재합니다. 이를 극복하기 위한 연구 흐름과 아이디어를 다음과 같이 정리할 수 있습니다.

1. 정보 손실 최소화

한계점:

ToMe는 토큰 병합 과정에서 유사성을 기준으로 병합을 수행하지만, 정보 손실이 완전히 배제될 수는 없습니다. 병합 기준이 단순한 Key 벡터 유사성에 기반하므로, 미묘한 차이를 가진 토큰들이 병합될 수 있습니다.

극복 방법:

다중 모달 유사성 기준:
- Key 벡터뿐만 아니라 Value 벡터 또는 Query 벡터를 포함한 다중 유사성 기준을 적용.
- 각 벡터에 가중치를 부여하거나 학습된 유사성 함수를 활용해 더 정교한 병합 기준을 생성.
학습 기반 병합 전략:
- 병합 과정을 학습 가능하도록 설계하여 병합 대상 선택이 데이터에 최적화되도록 함.
- 예: Gumbel-Softmax 기법을 사용해 병합 과정을 미분 가능하게 설계.
재구성 손실 기반 병합:
- 병합 후에도 병합된 토큰들이 원래 입력 정보를 복원할 수 있도록 재구성 손실을 포함.
- 병합 과정에서 정보 보존을 강조하는 추가 제약 조건 도입.

2. 입력 데이터 다양성 대응

한계점:

ToMe는 고정된 병합 비율을 사용하여 입력 데이터의 복잡도나 다양성을 반영하지 못합니다. 복잡한 데이터에서는 정보 손실이 크게 나타날 가능성이 있습니다.

극복 방법:

동적 병합 전략:
- 입력 데이터의 복잡도에 따라 병합 비율을 조정하는 동적 토큰 병합(Dynamic Token Merging) 기법 개발.
- 예: 데이터의 엔트로피나 Attention 값 분포를 기반으로 병합 비율을 동적으로 설정.
컨텐츠 인식 병합(Content-Aware Merging):
- 입력 데이터의 중요한 영역(예: 이미지의 객체 또는 비디오의 움직임)에 대해 병합을 제한하고, 덜 중요한 영역에서 병합 비율을 높이는 방식.
- Saliency Map이나 Attention Map을 활용.

3. 확장성 및 복잡한 작업 적용

한계점:

ToMe는 분류(Classification) 작업에 초점을 맞추고 있으며, 객체 탐지(Object Detection)나 세분화(Segmentation)와 같은 복잡한 작업에서의 효과는 명확하지 않음.

극복 방법:

멀티스케일 병합:
- Swin Transformer와 같이 계층적 구조를 도입하여, 병합 과정이 서로 다른 스케일에서 발생하도록 설계.
- 멀티스케일 병합은 세분화나 탐지 작업에서 보다 정교한 표현을 가능하게 함.
교차 Attention 결합:
- 병합된 토큰의 정보를 더 풍부하게 하기 위해 다른 층의 Attention 맵 또는 외부 정보를 결합.
- 예: 상위 계층의 Attention 정보를 하위 계층의 병합 과정에 반영.
응용 특화 병합 기법:
- 세분화 또는 탐지와 같은 작업에 최적화된 병합 기준 및 알고리즘 개발.
- 예: 병합된 토큰이 특정 객체의 경계나 특징을 보존하도록 설계.

4. 병합의 가역성 확보

한계점:

병합은 비가역적 과정으로, 병합 이후의 토큰이 원래의 개별 토큰을 복원할 수 없습니다.

극복 방법:

가역적 병합(Reversible Merging):
- 병합 과정에서 원래 토큰의 정보를 압축하여 병합된 토큰 내부에 임베딩.
- 복원 단계에서 이를 활용해 원래의 토큰을 재구성.
멀티헤드 복원:
- 병합된 토큰의 정보를 여러 헤드에서 병렬적으로 처리하여 병합 이전의 정보를 복원.
- Attention 값 분배를 활용한 가역적 재구성.

5. 비선형 병합 스케줄

한계점:

ToMe는 주로 고정된 병합 비율(Constant Schedule)을 사용하며, 모든 Transformer 층에서 동일한 비율로 토큰을 병합합니다. 이는 모델의 비선형적 정보 처리를 반영하지 못합니다.

극복 방법:

점진적 병합(Slow-to-Fast Schedule):
- 초기 층에서는 병합 비율을 낮추고, 깊은 층으로 갈수록 병합 비율을 점진적으로 높이는 방식.
- 초기 층에서 풍부한 정보를 유지하고, 깊은 층에서 효율성을 극대화.
데이터 주도 병합 스케줄:
- 특정 데이터셋이나 작업에 맞춘 최적 병합 스케줄을 학습.
- 예: Reinforcement Learning 기법으로 최적의 병합 스케줄을 탐색.

정리 및 미래 연구 방향

정보 손실 최소화: 다중 유사성 기준, 학습 기반 병합, 재구성 손실 적용.
입력 다양성 대응: 동적 병합 전략, 컨텐츠 인식 병합 도입.
응용 확장: 멀티스케일 병합, 응용 특화 병합 기법 설계.
가역성 확보: 병합 과정에서 원래 정보를 보존하고 복원 가능한 방식 개발.
비선형 병합 스케줄: 모델의 계층적 특성을 반영하는 병합 비율 설계.

이러한 연구 흐름은 ToMe의 잠재력을 확장하고, 다양한 작업에서 더욱 일반화된 성능을 제공하는 데 기여할 것입니다.