추세
•
독점 모델과 개방형 모델은 동시에 증가하고 있다.
•
비슷한 성능의 오픔소스 모델이 출시되고 있고 이 두사이의 간격이 더 짧아지고 있따.
•
Sorai - AI 최첨단, 고품질 비디오 생성 등
•
모델의 가중치를 제어할 수 있고 미세 조정(Fine Tuning)할 수 있다
데이터 처리 방식
•
모든 국가, 모든 회사, 모든 개인은 자신의 가치와 우선순위에 맞게 모델을 조정할 권리가 분명 있다 생각한다.
•
가치와 언어 모델
•
가중치에 액세스할 수 있는 개방형 모델
•
초기 텍스트용 마르코프 모델 생성 기법 중 일부는 인상적이었지만, 진짜 놀라운 요소는 이러한 모델을 더 크고 지능적으로 만드는 데서 비롯된다.
•
AI가 생성하는 이미지
◦
OpenAI 기술 문서 - 대규모 언어 모델로 추론하기에 나오는 그래프에선
1.
기본적으로 학습 시간에 소비하는 컴퓨팅 양에 따른 정확도 증가
2.
학습 시간 추론 시간에 다 많은 컴퓨팅을 사용하면 정확도가 높아진다.
3.
훈련할때 기본적으로 몇 퍼센터의 정확도에서 80%이상의 정확도로 올라가는 것을 의미