๐ Amazon Bedrock ํ์ธํ๋ & ๋ชจ๋ธ ์ ํ
1. ๋ค์ํ ์ ๊ณต์์ ๋ชจ๋ธ ํน์ง
- ๋ํ ์ ๊ณต์(Providers): Anthropic, Amazon, DeepSeek, Stability AI ๋ฑ
- ๊ฐ ๋ชจ๋ธ๋ง๋ค ์ํ๋ ๋ถ์ผ๊ฐ ๋ค๋ฆ:
- Claude 3.5 Haiku โ ํ ์คํธ ์ฒ๋ฆฌ์ ์ต์ ํ
- Amazon Nova Reel โ ํ ์คํธ-์์, ์ด๋ฏธ์ง-์์ ๋ณํ
- ๐ก ์ํ ํฌ์ธํธ: ์ํ์์ “์ด๋ค ๋ชจ๋ธ์ด ์ ์ผ ์ข์๊ฐ?”๋ฅผ ๋ฌป์ง ์์ โ ๊ฐ ๋ชจ๋ธ์ด ํ ์ ์๋ ๊ฒ๊ณผ ๋ชป ํ๋ ๊ฒ๋ง ๊ตฌ๋ถ
2. ๋ชจ๋ธ ๋น๊ตํ๊ธฐ
- Bedrock Playground์์ ์ฌ๋ฌ ๋ชจ๋ธ์ ๋๋ํ ํ ์คํธ ๊ฐ๋ฅ
- ๋น๊ต ๊ธฐ์ค:
- โ ์ง์ ๊ธฐ๋ฅ (ํ ์คํธ, ์ด๋ฏธ์ง, ๋น๋์ค)
- โ ์ถ๋ ฅ ์คํ์ผ/ํ์
- โ ์๋(์ง์ฐ ์๊ฐ)
- โ ๋น์ฉ(ํ ํฐ ์ฌ์ฉ๋)
- ์์:
- Nova Micro โ ์ด๋ฏธ์ง ์ ๋ก๋ ๋ถ๊ฐ โ, ๋์ ๋น ๋ฅด๊ณ ๊ฐ๋จํ ๋ต๋ณ
- Claude 3.5 Sonnet โ ์ด๋ฏธ์ง ์ง์ ๊ฐ๋ฅ โ , ๊ธธ๊ณ ์์ธํ ๋ต๋ณ

3. ํ์ธํ๋ ๋ฐฉ๋ฒ ๋น๊ต (์ํ ์์ฃผ ์ถ์ !)
| ๊ตฌ๋ถ | Instruction-Based Fine-Tuning | Continued Pre-Training | Transfer Learning |
|---|---|---|---|
| ๋ฐ์ดํฐ ์ ํ | ๋ผ๋ฒจ๋ง๋ ๋ฐ์ดํฐ (ํ๋กฌํํธโ์๋ต ์) | ๋ผ๋ฒจ๋ง ์ ๋ ์๋ณธ ํ ์คํธ | ๋ผ๋ฒจ๋ง/๋น๋ผ๋ฒจ๋ง ๋ชจ๋ ๊ฐ๋ฅ |
| ๋ชฉํ | ํน์ ํ์คํฌ/ํค/์คํ์ผ ๋ง์ถค | ํน์ ๋๋ฉ์ธ ์ ๋ฌธํ | ๋ค๋ฅธ ์ ์ฌํ ํ์คํฌ๋ก ์ ์ด |
| ์์ | ํน์ ํค์ผ๋ก ๋๋ตํ๋ ์ฑ๋ด | AWS ๋ฌธ์ ์ ์ฒด ํ์ต โ AWS ์ ๋ฌธ๊ฐ ๋ชจ๋ธ | ์๋ฃ ๋ถ์ผ ํ ์คํธ ๋ถ๋ฅ |
| ๋ชจ๋ธ ๊ฐ์ค์น ๋ณ๊ฒฝ? | โ ๋ณ๊ฒฝ๋จ | โ ๋ณ๊ฒฝ๋จ | โ ๋ณ๊ฒฝ๋จ |
| ๋ณต์ก๋ | ์ค๊ฐ | ๋์ | ๋ค์ |
| ๋น์ฉ | ์๋์ ์ผ๋ก ์ ๋ ด | ๋งค์ฐ ๋น์ (๋ฐ์ดํฐ ๋ง์) | ์ํฉ์ ๋ฐ๋ผ ๋ค๋ฆ |
| ์ํ ํค์๋ | โ๋ผ๋ฒจ๋ง ๋ฐ์ดํฐโ, โํ๋กฌํํธโ์๋ตโ | โ๋น๋ผ๋ฒจ๋ง ๋ฐ์ดํฐโ, โ๋๋ฉ์ธ ์ ์โ | โ์๋ก์ด ์ ์ฌ ํ์คํฌ ์ ์โ |
| Bedrock ์ง์ | ์ผ๋ถ ๋ชจ๋ธ ์ง์ | ์ผ๋ถ ๋ชจ๋ธ ์ง์ | ์ผ๋ฐ ML ๊ฐ๋ (Bedrock ์ ์ฉ ์๋) |
Instruction-based Fine Tuning

Continued Pre-training

4. ๋ฉ์์ง ํ์ธํ๋
- ๋จ์ผ ํด(Single-Turn): ์ง๋ฌธ 1๊ฐ โ ๋ต๋ณ 1๊ฐ, ํ์ ์
system์ปจํ ์คํธ ์ถ๊ฐ

- ๋ค์ค ํด(Multi-Turn): ๋ํ์ฒ๋ผ
user์assistant๊ฐ ๋ฒ๊ฐ์ ๋ํ โ ์ฑ๋ด ํ๋ จ์ ํ์ฉ

5. ์ ์ด ํ์ต (Transfer Learning)
- ์ ์: ์ด๋ฏธ ํ์ต๋ ๋ชจ๋ธ์ ์๋ก์ด ์ ์ฌํ ์์ ์ ํ์ฉ
- ์์:
- ์ด๋ฏธ์ง ๋ถ๋ฅ (๊ณ ์์ด vs ๊ฐ์์ง โ ๊ฝ ๋ถ๋ฅ)
- NLP ๋ชจ๋ธ (BERT, GPT) ์ฌํ์ฉ
- ๐ก ์ํ ํ:
- ์ผ๋ฐ ML ๋ฌธ์ โ Transfer Learning
- Bedrock ๊ด๋ จ โ Fine-Tuning
6. Bedrock์์ ํ์ธํ๋ ์กฐ๊ฑด
- ํ์ต ๋ฐ์ดํฐ๋ ๋ฐ๋์:
- Amazon S3์ ์ ์ฅ
- ์ ํด์ง ํฌ๋งท ์ค์

- Provisioned Throughput ํ์:
- ์ปค์คํ ๋ชจ๋ธ ์์ฑ ์
- ์ปค์คํ ๋ชจ๋ธ ์ฌ์ฉ ์



- ๋ชจ๋ ๋ชจ๋ธ์ด ํ์ธํ๋ ๊ฐ๋ฅํ ๊ฑด ์๋ โ ์ฃผ๋ก ์คํ์์ค ๋ชจ๋ธ ์ง์
7. ํ์ธํ๋ ํ์ฉ ์ฌ๋ก
- ํน์ ํค/ํ๋ฅด์๋ ์ฑ๋ด ์ ์
- ์ต์ ์ง์ ๋ฐ์
- ๊ธฐ์ ๋ด๋ถ ๋น๊ณต๊ฐ ๋ฐ์ดํฐ ํ์ฉ (๊ณ ๊ฐ ๋ก๊ทธ, ๋ด๋ถ ๋ฌธ์)
- ๋ถ๋ฅ ์ ํ๋ ํฅ์, ์๋ต ์คํ์ผ ์กฐ์
8. ์ํ ํ ์ ๋ฆฌ
- “๋ผ๋ฒจ๋ง ๋ฐ์ดํฐ” โ Instruction-Based Fine-Tuning
- “๋น๋ผ๋ฒจ๋ง ๋ฐ์ดํฐ / ๋๋ฉ์ธ ์ ์” โ Continued Pre-Training
- “์๋ก์ด ์ ์ฌ ์์ ์ ์” โ Transfer Learning
- Bedrock์์ ์ปค์คํ ๋ชจ๋ธ = Provisioned Throughput ํ์
- ํ์ธํ๋ = ๋ชจ๋ธ ๊ฐ์ค์น ๋ณ๊ฒฝ โ ๋ด ์ ์ฉ ๋ชจ๋ธ ์์ฑ
- ๋ชจ๋ธ ๋น๊ต ์ โ ํ์ง๋ฟ ์๋๋ผ ์๋์ ๋น์ฉ ๊ณ ๋ ค
9. ์ถ๊ฐ๋ก ์์๋๋ฉด ์ข์ ์
- FM ์ ์ฒด ์ฌํ์ต์ ๋น์ฉยท์๊ฐ ๋ชจ๋ ๋งค์ฐ ํผ
- Instruction ๊ธฐ๋ฐ ํ์ธํ๋์ ์๋์ ์ผ๋ก ์ ๋ ด (์ ์ ๋ฐ์ดํฐ, ์ ์ ์ฐ์ฐ)
- ํ์ง๋ง ์ ๋ฌธ ML ์์ง๋์ด ํ์
- ๊ณผ์ : ๋ฐ์ดํฐ ์ค๋น โ ํ์ธํ๋ โ ๋ชจ๋ธ ํ๊ฐ โ ์ด์
- ํ์ธํ๋ ๋ชจ๋ธ ์คํ ์๋ Provisioned Throughput ํ์ โ ๋น์ฉ ์ถ๊ฐ
10. Provisioned Throughput (์ค์ ์ํ ํฌ์ธํธ!)
- ์ ์: ์ปค์คํ ๋ชจ๋ธ์ ์ํ ์ ์ฉ ์ฒ๋ฆฌ ์ฉ๋ ์์ฝ
- ํ์ ์ด์ :
- ์์ ์ ์ฑ๋ฅ ๋ณด์ฅ
- ํธ๋ํฝ ์ฆ๊ฐ ์ ์ฑ๋ฅ ์ ํ ๋ฐฉ์ง
- ์์ธก ๊ฐ๋ฅํ ๋น์ฉ ๊ด๋ฆฌ
- ๐ก ์ํ ํ: Bedrock์์ ์ปค์คํ ๋ชจ๋ธ = ๋ฌด์กฐ๊ฑด Provisioned Throughput ํ์
โ ์ํ ํต์ฌ ์์ฝํ
| ๊ตฌ๋ถ | ํต์ฌ ํฌ์ธํธ | ์ํ ํค์๋ |
|---|---|---|
| ๋ชจ๋ธ ์ ๊ณต์ | Anthropic, Amazon, DeepSeek, Stability AI ๋ฑ | “์ด๋ค ๋ชจ๋ธ์ด ์ ์ผ ์ข์๊ฐ?” โ, “ํ ์ ์๋ ๊ฒ/๋ชปํ๋ ๊ฒ” โ |
| ๋ชจ๋ธ ๋น๊ต ๊ธฐ์ค | ๊ธฐ๋ฅ(ํ ์คํธ/์ด๋ฏธ์ง/๋น๋์ค), ์ถ๋ ฅ ์คํ์ผ, ์๋, ๋น์ฉ | Compare Mode |
| Instruction-Based Fine-Tuning | ๋ผ๋ฒจ๋ง ๋ฐ์ดํฐ ํ์ (ํ๋กฌํํธโ์๋ต ์), ๋น์ฉ ๋ฎ์, ํน์ ํค/์คํ์ผ ๋ง์ถค | Labeled data, PromptโResponse |
| Continued Pre-Training | ๋น๋ผ๋ฒจ๋ง ๋ฐ์ดํฐ๋ก ๋๋ฉ์ธ ์ ๋ฌธํ, ๋ฐ์ดํฐยท๋น์ฉ ํผ | Unlabeled data, Domain Adaptation |
| Transfer Learning | ๊ธฐ์กด ๋ชจ๋ธ์ ์๋ก์ด ์ ์ฌ ์์ ์ ์ ์ | Adapt model to new task |
| ๋ฉ์์ง ํ์ธํ๋ | ๋จ์ผ ํด(Single-Turn), ๋ค์ค ํด(Multi-Turn) ์ง์ | Chatbot Training |
| Provisioned Throughput | ์ปค์คํ ๋ชจ๋ธ ์์ฑ/์ด์ ์ ํ์, ์ ์ฉ ์ฒ๋ฆฌ ์ฉ๋ ์์ฝ | Required for Bedrock Custom Models |
| ๋น์ฉ ์ ๊ฐ | Instruction-Based FT๊ฐ ๊ฐ์ฅ ์ ๋ ด, Full FM ์ฌํ์ต์ ๋น์ฉ ๋งค์ฐ ํผ | Cost Optimization |
๐ ์ถ๊ฐ ์ํ ํฌ์ธํธ
- ํ์ธํ๋์ ๋ชจ๋ธ ๊ฐ์ค์น๋ฅผ ๋ณ๊ฒฝํ์ฌ ๋ด ์ ์ฉ ๋ชจ๋ธ์ ๋ง๋๋ ๊ฒ
- Bedrock์ ๋ชจ๋ ๋ชจ๋ธ์ด ํ์ธํ๋ ๊ฐ๋ฅํ ๊ฑด ์๋ โ ์ฃผ๋ก ์คํ์์ค ๋ชจ๋ธ ์ง์
- ์ปค์คํ ๋ชจ๋ธ์ ๋ฐ๋์ Provisioned Throughput ํ์
- ๋ชจ๋ธ ๋น๊ต ์ ์๋์ ๋น์ฉ๋ ์ค์
- Fine-Tuning ๋จ๊ณ: ๋ฐ์ดํฐ ์ค๋น โ ํ์ต โ ํ๊ฐ โ ์ด์
- ์คํ ๋น์ฉ์ ์ผ๋ฐ ๋ชจ๋ธ๋ณด๋ค ๋์ (์ ์ฉ ๋ฆฌ์์ค ์ฌ์ฉ)
๐ ๊ฒฐ๋ก :
Amazon Bedrock ํ์ธํ๋ = ๋ด ๋ฐ์ดํฐ๋ก ๋ง์ถคํ ๋ชจ๋ธ์ ๋ง๋ค ์ ์๋ ๊ธฐ๋ฅ
์ํ ํต์ฌ = ํค์๋ ๋งคํ(๋ผ๋ฒจ๋ง vs ๋น๋ผ๋ฒจ๋ง vs ์๋ก์ด ํ์คํฌ) + Provisioned Throughput
Leave a Reply