Skip to content

lupguo/copilot_develop

Repository files navigation

AI Copilot Develop - AI 协同开发应用

AI Copilot Develop 为一款软件工程师在 MacOS 下的协同 AI 开发软件,旨在帮助研发人员在 MacOS 下流畅的编程.

P.S.: 目前仅应用在 BlogAISummary 摘要生成,其他功能还在开发中!

Roadmap

  1. 支持 blog 的内容批量 keywords 提取、内容 summary 小结,并填补到 Blog 中 - 进度 85%
  2. 文生图的能力,用于公众号读取、wisdom-httpd使用
  3. 默认 AI 辅助角色支持(eg. 提供命名协助、日期 unixtime 处理、词条 Wikipedia 翻译)
  4. 提供截图、图床功能、提供图片 AI 处理

灵感来源

  1. Alfred
  2. PopClip
  3. Bob 翻译软件
  4. OpenAI

问题

在 SummaryBlog 过程中遇到的问题

  1. 存储问题: 采用 SQlite 本地存储
  2. 配置问题: 还是采用 config.Method()形式,而非依赖注入方式,优点在于更灵活
  3. 文章内容过长,导致超过 OpenAI gpt-3.5-turbo-16k Token 阈值:
    • 之前统计方法有问题,参考 https://platform.openai.com/tokenizer 可以基于正则 (\p{Han}|\b\w+\b) 匹配汉字和单词,和 Token 统计比较接近
    • 使用正则表达式替换,移除 Code,仅保留文章关键信息用于文章摘要生成
  4. pflag 支持,方便tstorm.com编写时候,快速补充博文摘要

OpenAI 限频问题: 每分钟只能有 18w token

2023/08/17 16:35:46 openai_http.go:85: [ERROR] CreateChatCompletion error: error, status code: 429, message: Rate limit reached for default-gpt-3.5-turbo-16k in organization org-81U5Eh72Xnow6FD9opokNgmo on tokens per min. Limit: 180000 / min. Current: 176976 / min. Contact us through our help center at help.openai.com if you continue to have issues.
2023/08/17 16:35:46 openai_http.go:85: [ERROR] CreateChatCompletion error: error, status code: 429, message: Rate limit reached for default-gpt-3.5-turbo-16k in organization org-81U5Eh72Xnow6FD9opokNgmo on tokens per min. Limit: 180000 / min. Current: 176963 / min. Contact us through our help center at help.openai.com if you continue to have issues.
2023/08/17 16:35:46 openai_http.go:85: [ERROR] CreateChatCompletion error: error, status code: 429, message: Rate limit reached for default-gpt-3.5-turbo-16k in organization org-81U5Eh72Xnow6FD9opokNgmo on tokens per min. Limit: 180000 / min. Current: 176830 / min. Contact us through our help center at help.openai.com if you continue to have issues.

解决方案

  1. 失败重试(间隔一定时间)
  2. 因为 OpenAI 在响应报文中包含 total_tokens,可以按每 min 统计,超过阈值延缓 OpenAI 并发请求,待时间窗口到期重置计数器

About

Copilot AI Tools for developer

Resources

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published

Languages