Author: mahler83

Academic writing

Claude의 긴 문맥창 활용하는 prompt engineering

mahler83,

Claude는 다른 상용 언어모델들에 긴 context window (100k)를 가지고 있어서 많은 정보를 처리할 때 사용하고 있다. 참고로 Bard는 2k, ChatGPT-4는 8k이니까 압도적으로 길다. 이 긴 문맥창(context window)를 활용해서 문제를 생성하고 푸는 과정을 담은 보고서가 올라와서 재미있게 읽었다. 교과서에서 문제를 출제하고, 논문에서 필요한 정보를 추출하는 작업을 많이 하니까 아주 흥미로운 주제였다….

The Ethical Implications of Large Language Models in Academic Writing: Challenges and Solutions (Mini review)

mahler83,

Abstract With the rapid advancement of artificial intelligence (AI) and the increasing utilization of large language models (LLMs) like ChatGPT in academic writing, concerns surrounding ethics, authenticity, and integrity have become paramount. This article provides a comprehensive review of these concerns and suggests possible mitigation strategies. 1. Introduction The integration…

DadGPT 한자능력검정시험 교재 3급II (자체제작)

mahler83,

교재 제작 목표 교재 사용법 1. 한자의 모양과 파자 해보기– 모양을 한 번 보자. 얘랑 비슷한 한자가 또 누가 있지?– 왼쪽에 사람인변 말고 보일시변으로 바꾸면 무슨 자였지?– 연습장에 한 번 써보기 2. 한자의 뜻을 이야기해보기– 이 자는 이러이러한 뜻과 이러이러한 뜻이 있어요.– 예를 들어 뜻 정과 뜻 의는 둘 다…

Large language model

Navigating the Jagged Technological Frontier – DellAcqua 2023.9

mahler83,

healthcare, energy, finance등 다양한 분야의 management consultant 758명을 GPT-4를 사용한 그룹과 그렇지 않은 그룹으로 나누어 업무 효율성을 확인한 연구 https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4573321 창의적 작업 AI 사용 그룹이 25% 짧은 시간내에 12% 더 많은 작업을 끝냄. 결과물에 대한 평가 점수도 40% 더 높음 performance 상하위 50%를 나누어 비교한 경우 하위 그룹이 도움을 더…

Large language model

From Sparse to Dense – Chain of Density Prompting – Adams 2023.9

mahler83,

https://arxiv.org/abs/2309.04269 Chain of Density (CoD) prompt를 개발했음.우선은 sparse summary를 만들고, 순차적으로 dense summary를 만들어나감.500개의 annotated CoD summary를 제공 Density에 따라 clarity vs informativeness tradeoff가 일어남 CoD prompting: 요약문의 길이를 늘리지 않고, 빠뜨린 디테일(missing entity)를 찾아서 추가하기를 반복하는 방식 missing entity Baseline (vanilla prompt) 요약문의 평가 인간 평가자 선호도 Limitations My…

Large language model

ChatGPT fine-tuning 기능 신설

mahler83,

GPT-3.5 Turbo의 fine tuning 기능이 생겼다.이전까지는 GPT-3까지만 가능해서 fine-tuning이 필요한 작업에 GPT-3를 사용하는 것을 봤는데 잘 된 것 같다. GPT-3.5 turbo fine-tuning 사용처 사실 위의 내용은 지금까지는 instruction을 잘 주거나 1-shot, few-shot으로 어느 정도 해결 가능한 문제이긴 했다. 하지만 fine-tuning을 해놓으면 instruction이나 exemplar가 필요 없어진다. 그러면 그만큼 prompt가 짧아지고 사용할…

Large language model

GPT-4에게 정신과 시험문제를 풀어 틀린 문제를 Bloom’s taxonomy로 분석 – Werner 2023.8

mahler83,

GPT-4에게 의대 시험 중 psychosomatic medicine 분야 객관식 307문항 풀게 했을 때 93% 정답률을 보였고, 틀린 문제는 Bloom’s taxonomy의 remember, understand에 주로 해당했다고. Assessing ChatGPT’s Mastery of Bloom’s Taxonomy using psychosomatic medicine exam questionsAnne Herrmann Werner, Teresa Festl-Wietek, Friederike Holderried, Lea Herschbach, Jan Griewatz, Ken Masters, Stephan Zipfel, Moritz Mahling원문:…

Creativity

작가에게 GPT-4의 아이디어를 제공하면 더 창의적 글쓰기가 가능하다 – Doshi 2023.8

mahler83,

작가가 GPT-4의 도움을 받을 경우 더 창의적인 결과가 나왔다는 연구 – Doshi 2023.8 원문: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4535536Generative artificial intelligence enhances creativityAnil R Doshi, Oliver Hauser 창의력을 올리는 기전 방해하는 기전 위 두가지가 동시에 일어날 수도 있다. 예: novelty는 있지만 usefulness는 낮음 Methods 293명의 작가에게 8문장의 창의적 이야기를 작성하게 함.사람 혼자, GenAI 아이디어…

Generative AI

GPT-4와 인간 크라우드소싱 비교 연구 – 2023.8

mahler83,

사업 아이디어를 얻기 위한 크라우드소싱과 GPT-4를 비교한 연구. LLM은 얼마나 창의적일까? – Boussioux 2023.8 원문: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4533642The Crowdless Future? How Generative AI Is Shaping the Future of Human Crowdsourcing 크라우드소싱을 하는 이유 하지만 AI는 적은 시간과 비용으로 scalable and consistent하게 아이디어 제공이 가능함 Croudsourcing 실험 Results AI level 1, 3가 novelty,…