Transformer

from transformers import pipeline classifier = pipeline(task='sentiment-analysis', model='bert-base-multilingual-cased')

from transformers import PreTrainedTokenizerFast, BartForConditionalGeneration # Load Model and Tokenize : 모델과 토크나이저 로딩 tokenizer = PreTrainedTokenizerFast.from_pretrained("ainize/kobart-news") model = BartForConditionalGeneration.from_pretrained("ainize/kobart-news") # Encode Input Text # 입력 데이터 전처리 input_text = '국내 전반적인 경기침체로 상가 건물주의 수익도 전국적인 감소세를 보이고 있는 것으로 나타났다. 수익형 부동산 연구개발기업 상가정보연구소는 한국감정원 통계를 분석한 결과 전국 중대형 상가 순영업소득(부동산에서 발생하는 임대수입, 기타수입에서 제반 경비를 공제한 순소득)이 1분기 ㎡당 3만4200원에서 3분기 2만5800원으로 감소했다고 17일 밝혔다. 수도권, 세종시, 지방광역시에서 순영업소득이 가장 많이 감소한 지역은 3분기 1만3100원을 기록한 울산으로, 1분기 1만9100원 대비 31.4% 감소했다. 이어 대구(-27.7%), 서울(-26.9%), 광주(-24.9%), 부산(-23.5%), 세종(-23.4%), 대전(-21%), 경기(-19.2%), 인천(-18.5%) 순으로 감소했다. 지방 도시의 경우도 비슷했다. 경남의 3분기 순영업소득은 1만2800원으로 1분기 1만7400원 대비 26.4% 감소했으며 제주(-25.1%), 경북(-24.1%), 충남(-20.9%), 강원(-20.9%), 전남(-20.1%), 전북(-17%), 충북(-15.3%) 등도 감소세를 보였다. 조현택 상가정보연구소 연구원은 "올해 내수 경기의 침체된 분위기가 유지되며 상가, 오피스 등을 비롯한 수익형 부동산 시장의 분위기도 경직된 모습을 보였고 오피스텔, 지식산업센터 등의 수익형 부동산 공급도 증가해 공실의 위험도 늘었다"며 "실제 올 3분기 전국 중대형 상가 공실률은 11.5%를 기록하며 1분기 11.3% 대비 0.2% 포인트 증가했다"고 말했다. 그는 "최근 소셜커머스(SNS를 통한 전자상거래), 음식 배달 중개 애플리케이션, 중고 물품 거래 애플리케이션 등의 사용 증가로 오프라인 매장에 영향을 미쳤다"며 "향후 지역, 콘텐츠에 따른 상권 양극화 현상은 심화될 것으로 보인다"고 덧붙였다.' input_ids = tokenizer.encode(input_text, return_tensors="pt") # Generate Summary Text Ids : 모델 사용 summary_text_ids = model.generate( input_ids=input_ids, bos_token_id=model.config.bos_token_id, eos_token_id=model.config.eos_token_id, length_penalty=2.0, max_length=142, min_length=56, num_beams=4, ) # Decoding Text : 결과 후처리 print(tokenizer.decode(summary_text_ids[0], skip_special_tokens=True))

api_key = 'YOUR API KEY' os.environ['OPENAI_API_KEY'] = api_key openai.api_key = os.getenv('OPENAI_API_KEY') # 코랩 가상환경 변수로 등록

from openai import OpenAI def ask_chatgpt1(question): # api key 지정 client = OpenAI() # # API를 사용하여 'gpt-3.5-turbo' 모델로부터 응답을 생성합니다. response = client.chat.completions.create( # choosing model model="gpt-3.5-turbo", # building prompts messages=[ {"role": "system", "content": "You are a helpful assistant."}, # system messages : 기대하는 모델의 반응과 행동을 제시 {"role": "user", "content": question}, # user messages : 모델에게 요청하는 내용을 제시 ] ) return response.choices[0].message.content

question = "세계에서 가장 높은 산은 무엇인가요?" response = ask_chatgpt1(question) print(response)

def ask_chatgpt2(sys_role, question): client = OpenAI(api_key=api_key) response = client.chat.completions.create( model = 'gpt-3.5-turbo', messages = [ {'role': 'system', 'content': sys_role}, {'role': 'user', 'content': question} ] ) return response.choices[0].message.content

sys_role = '당신은 아름답고 감동적인 시를 창작하는 데 영감을 주는 시적인 천재입니다. 당신의 시는 감정의 깊이, 자연의 아름다움, 인간 경험의 복잡성을 탐구하는 작품이며, 당신의 시를 읽는 이들의 마음을 움직입니다.' question = "생성형 AI란 주제로 시를 지어줘. 운율에 맞춰서 작성해줘야 해." response = ask_chatgpt2(sys_role, question) print(response)

from langchain import PromptTemplate # 프롬프트 템플릿 구조 만들기 prompt = PromptTemplate(template='{nation}의 인구수는?', input_variables= ['nation'])

# 사용 print(prompt.format(nation='한국')) print(prompt.format(nation='영국'))

# 언어모델과 결합 result = chat([HumanMessage(content=prompt.format(nation='한국'))]) print(result.content)

from langchain import ChatPromptTemplate

import openai from langchain.chat_models import ChatOpenAI from langchain.schema import HumanMessage, SystemMessage, Document from langchain.embeddings import OpenAIEmbeddings from langchain.vectorestores import Chroma from langchain.chains import RetrievalQA # db 경로 지정 # embedding 객체 설정 embeddings = OpenAIEmbeddings(model='text-embedding-ada-002') # DB 연결 database = Chroma(persist_directory = path + 'db', embedding_function = embeddings)

embeddings = OpenAIEmbeddings(model='text-embedding-ada-002') database = Chroma(persist_directory='./db2', embedding_function=embeddings) chat = ChatOpenAI(model='gpt-3.5-turbo') k=3 retriever = database.as_retriever(search_kwargs={'k':k}) # 대화 메모리 생성 memory = ConversationBufferMemory(memory_key='chat_history', input_key='question', output_key='answer', return_messages=True) # 체인 생성 qa = ConversationalRetrievalChain.from_llm(llm=chat, retriever=retriever, memory=memory, return_source_documents=True, output_key='answer') # 첫번째 질문 query1 = "생성형 AI 도입시 예상되는 보안 위협은 어떤 것들이 있어?" result = qa(query1) result['answer'] # 메모리 확인 memory.load_memory_variables({}) # 두번째 질문 query2 = "모델을 재학습시키면 어떤 문제가 발생되는거야?" result = qa(query2 ) result['answer'] # 메모리 확인 memory.load_memory_variables({})

import sqlite3 import openai from langchain.chat_models import ChatOpenAI from langchain.schema import HumanMessage, SystemMessage, Document from langchain.embeddings import OpenAIEmbeddings from langchain.vectorstores import Chroma from langchain.chains import RetrievalQA, ConversationalRetrievalChain from langchain.memory import ConversationBufferMemory # 환경변수로 OpenAI API key 등록 def load_api_key(filepath): with open(filepath, 'r') as file: return file.readline().strip() openai.api_key = load_api_key(path + 'api_key.txt') os.environ['OPENAI_API_KEY'] = openai.api_key ###################### Vector DB 만들기 #################### # 질문들을 -> CSV 형태로 저장 data = pd.read_csv('질문들의 정보가 담긴 파일 경로') # 임베딩 embeddings = OpenAIEmbeddings(model = 'text-embedding-ada-002') database = Chroma(persist_directory = './db_something', embedding_function=embeddings) # 데이터 입력, 기존 입력은 모두 제거 ids = database.get() if ids['ids']: database.delete(ids=ids['ids']) qa_list = data['QA'].tolist() cat_list = [{'category': text} for text in data['구분'].tolist()] # 리스트 내용을 각각 document로 변환 documents = [Document(page_content = qa_list[i], metadata = cat_list[i]) for i in range(len(qa_list))] # 문서 내용 추가 database.add_documents(documents) # 입력된 데이터 조회 database.get() ###################### RAG+LLM 모델 #################### # 모델: ConversationalRetrievalChain # llm 모델 : gpt-3.5-turbo # retriever : 벡터 db , 유사도 높은 3개 문서 사용 # memory 사용하기 # 모델 선언 chat = ChatOpenAI(model='gpt-3.5-turbo') # 리트리버 선언 k = 3 retriever = database.as_retriever(search_kwargs={'k':k}) # 대화 메모리 생성 memory = ConversationBufferMemory(memory_key='chat_history', input_key='question', output_key='answer', return_messages=True) # ConversationalRetrievalQA 체인 생성 qa = ConversationalRetrievalChain.from_llm(llm=chat, retriever=retriever, memory=memory, return_source_documents=True, output_key='answer') # 질문 query = '지원하는데 나이 제한이 있니?' # 답변 result = qa(query) answer = result['answer'] print(answer)

# 사전훈련된 모델 지정 - distilbert 모델 preTrModel = 'distilbert-base-uncased' # Output Layer 노드 수 nclass = 6 # 모델 로드하기 model = TFAutoModelForSequenceClassification.from_pretrained(preTreModel, num_labels=nclass)