solaris33’s gists

solaris33 / llm_example_text.txt

Created November 7, 2023 16:02

	대형 언어 모델(Large language model, LLM) 또는 거대 언어 모델은 수많은 파라미터(보통 수십억 웨이트 이상)를 보유한 인공 신경망으로 구성되는 언어 모델이다. 자기 지도 학습이나 반자기지도학습을 사용하여 레이블링되지 않은 상당한 양의 텍스트로 훈련된다.[1] LLM은 2018년 즈음에 모습을 드러냈으며 다양한 작업을 위해 수행된다. 이전의 특정 작업의 특수한 지도 학습 모델의 훈련 패러다임에서 벗어나 자연어 처리 연구로 초점이 옮겨졌다.

	대규모 언어 모델(LLM) 은 AI 챗봇 기술을 가능하게 하는 요소이며 많은 화제를 불러일으키고 있는 주제 중 하나다. 대규모 언어 모델(LLM)의 작동 방식은 크게 3가지로 나뉘고 있다. 토큰화, 트랜스포머 모델, 프롬프트 등. 토큰화는 자연어 처리의 일부로 일반 인간 언어를 저수준 기계 시스템(LLMS)가 이해할 수 있는 시퀀스로 변환하는 작업을 말하며 여기에는 섹션에 숫자 값을 할당하고 빠른 분석을 위해 인코딩하는 작업이 수반된다. 이는 음성학의 AI 버전과 같으며 토큰화의 목적은 인공지능이 문장의 구조를 예측하기 위한 학습 가이드 또는 공식과 같은 컨텍스트 백터를 생성하는 것이 목적. 언어를 더 많이 연구하고 문장이 어떻게 구성되는지 이해할수록 특정 유형의 문장에서 다음 언어에 대한 예측이 더 정확 해진다. 이로 인해 온라인에서 사람들이 사용하는 다양한 커뮤니케이션 스타일을 재현하는 모델을 개발할 수 있다.

	트랜스포머 모델은 순차적 데이터를 검사하여 어떤 단어가 서로 뒤따를 가능성이 높은지 관련 패턴을 식별하는 신경망의 일종으로 각각 다른 분석을 수행하여 어떤 단어가 호환되는지 결정하는 계층으로 구성된다. 이러한 모델은 언어를 학습하지 않고 알고리즘에 의존하여 사람이 쓴 단어를 이해하고 예를들어, 힙스터 커피 블로그를 제공함으로써 커피에 대한 표준 글을 작성하도록 학습 시킨다. 이 트랜스포머 모델이 대규모 언어 모델 LLM 언어 생성의 기초.

	프롬프트는 개발자가 정보를 분석하고 토큰화하기 위해 대규모 언어 모델 LLM에 제공하는 정보로

solaris33 / sample_html.html

Last active November 5, 2023 07:37


	<!DOCTYPE html>
	<html class="client-nojs vector-feature-language-in-header-enabled vector-feature-language-in-main-page-header-disabled vector-feature-sticky-header-disabled vector-feature-page-tools-pinned-disabled vector-feature-toc-pinned-clientpref-1 vector-feature-main-menu-pinned-disabled vector-feature-limited-width-clientpref-1 vector-feature-limited-width-content-enabled vector-feature-zebra-design-disabled vector-feature-custom-font-size-clientpref-0 vector-feature-client-preferences-disabled vector-feature-typography-survey-disabled vector-toc-available" lang="en" dir="ltr">
	<head>
	<meta charset="UTF-8">
	<title>HTML - Wikipedia</title>
	<script>(function(){var className="client-js vector-feature-language-in-header-enabled vector-feature-language-in-main-page-header-disabled vector-feature-sticky-header-disabled vector-feature-page-tools-pinned-disabled vector-feature-toc-pinned-clientpref-1 vector-feature-main-menu-pinned-disabled vector-feature-limited-width-clientpref-1 vector-feature-limited-wid

solaris33 / mlb_teams_2012.csv

Created November 4, 2023 12:02

Team	Payroll (millions)	Wins
Nationals	81.34	98
Reds	82.20	97
Yankees	197.96	95
Giants	117.62	94
Braves	83.31	94
Athletics	55.37	94
Rangers	120.51	93
Orioles	81.43	93
Rays	64.17	90

solaris33 / github_gist_test_1.py

Last active January 29, 2023 08:59

GitHub gist 테스트입니다.

	print('Hello, World!')
	print('Hello, World! 2')

solaris33 / BatchDatsetReader.py

Created July 30, 2020 13:27

	# -- coding: utf-8 --

	import numpy as np
	import imageio
	from PIL import Image


	# 데이터를 배치 단위로 묶는 BatchDatset 클래스를 정의합니다.
	class BatchDatset:
	files = []

solaris33 / pix2pix_v2_keras.py

Created July 5, 2020 10:24

	import tensorflow as tf
	import os
	import time
	from matplotlib import pyplot as plt
	from absl import app
	import datetime

	_URL = 'https://people.eecs.berkeley.edu/~tinghuiz/projects/pix2pix/datasets/facades.tar.gz'
	path_to_zip = tf.keras.utils.get_file('facades.tar.gz',
	origin=_URL,

solaris33 / sentiment_classification_using_rnn.py

Created June 14, 2020 15:42

	import tensorflow_datasets as tfds
	import tensorflow as tf

	import matplotlib.pyplot as plt

	def plot_graphs(history, metric):
	plt.plot(history.history[metric])
	plt.plot(history.history['val_'+metric], '')
	plt.xlabel("Epochs")
	plt.ylabel(metric)

solaris33 / tf_serving_rest_request.py

Created May 31, 2020 07:12

	from tensorflow import keras
	import matplotlib.pyplot as plt
	import numpy as np
	import random
	import json
	import requests

	def show(idx, title):
	plt.figure(figsize=(12, 3))
	plt.imshow(test_images[idx].reshape(28,28))

solaris33 / tf_serving_rest_example.py

Created May 31, 2020 05:06

	# TensorFlow Serving Example (Simple REST API using Fashion MNIST)
	# Reference : https://www.tensorflow.org/tfx/tutorials/serving/rest_simple

	import tensorflow as tf
	from tensorflow import keras
	import os

	def make_directory(target_path):
	if not os.path.exists(target_path):
	os.mkdir(target_path)

solaris33 / book_introduction_example_3.py

Created May 13, 2020 12:04

	W = tf.Variable(tf.ones(shape=(2,2)), name="W")
	b = tf.Variable(tf.zeros(shape=(2)), name="b")

	@tf.function
	def forward(x):
	return W * x + b

	out_a = forward([1,0])
	print(out_a)

SOLARIS solaris33