逐步掌握最佳Ai Agents框架-AutoGen 十 Web应用

admin管理员组

文章数量:1564638

Streamlit

[Streamlit]是一款Web开发框架，适用于python快速完成一些大模型、数学科学计算的UI开发。

作为一位Web开发者，AutoGen系列的第十集来到Web应用开发，我们要做的就是将AutoGen的交互与反馈，在浏览器Web页面上呈现出来。

• 最终效果

上图是项目的最终效果，它分为左右两栏。侧边栏为OpenAI的配置区域，表单的值，提供给AutoGen的config_list。 右边是类似chatgpt的聊天区域，我们在这里将message交给UserProxyAgent，之后由它与其它Agent的chat完成任务。

• try Streamlit

首先，让我们跟着文档，将Streamlit玩起来。这里假设大家本地都安装好了python 环境。安装streamlit, 并使用streamlit 初始化hello 项目

pip install streamlit
streamlit hello

上图是模板项目的效果。

• 初始化项目

  了解hello模板项目效果，心里有数。新建我们的的autogen-streamlit项目目录，并添加app.py入口文件。文件引入streamlit, 写入如图代码，执行命令streamlit run app.py,项目启动。

• 侧边栏

selected_model = None
selected_key = None
with st.sidebar:
    st.header("OpenAI Configuration")
    selected_model = st.selectbox("Model", ['gpt-3.5-turbo', 'gpt-4'], index=1)
    selected_key = st.text_input("API Key", type="password")

定义了selected_model、selected_key 两个变量，初始值为None。 with st.sidebar 设置侧边栏。st代表streamlit, st.sidebar 代表侧边栏，从语法看，streamlit只需要了解预设模块和语法，就可以快速完成开发。 st.header("OpenAI Configuration")侧边栏标题，selected_model = st.selectbox("Model", ['gpt-3.5-turbo', 'gpt-4'], index=1)，添加下拉框，并交给selected_model,用户选择后，值可在selected_model里选择。    如果大家也跟我一样，目前还没有用上gpt-4, 可以将index设置为0…悲伤的故事。

• 主栏

with st.container():
    user_input = st.chat_input("Type something...")
    if user_input:
        if not selected_key or not selected_model:
            st.warning(
                'You must provide valid OpenAI API key and choose preferred model', icon="⚠️")
            st.stop()

类chatgpt的界面，主栏提供了一个聊天输入框，它会位于界面底部。当用户按下回车键时，流程会进入if user_input分支， 此时如果用户还未提供api_key或相应模型，会输出提示,st.stop,st的逻辑也会停掉。否则，即可进行config_list配置,selected_model、selected_key的值是config_list的一项配置

llm_config = {
            "request_timeout": 600,
            "config_list": [
                {
                    "model": selected_model,
                    "api_key": selected_key
                }
            ]
        }

• 初始化两个Agent

class TrackableAssistantAgent(AssistantAgent):
    def _process_received_message(self, message, sender, silent):
        with st.chat_message(sender.name):
            st.markdown(message)
        return super()._process_received_message(message, sender, silent)

这里的AssistantAgent 比之前几篇要复杂。这里定义的TrackableAssistantAgent 以AssistantAgent为基类，对_process_received_message做了复盖。将接收到的消息，通过chat_message,将发送者的名字和消息，以markdown的格式显示在页面上，再调用基类的方法完成工作。   UserProxyAgent也一样。

class TrackableUserProxyAgent(UserProxyAgent):
    def _process_received_message(self, message, sender, silent):
        with st.chat_message(sender.name):
            st.markdown(message)
        return super()._process_received_message(message, sender, silent)

有了这两个类后，我们实例化Agents, 这是AutoGen的常规操作。

assistant = TrackableAssistantAgent(
            name="assistant", llm_config=llm_config)

# create a UserProxyAgent instance named "user"
user_proxy = TrackableUserProxyAgent(
    name="user", human_input_mode="NEVER", llm_config=llm_config)

• asyncio   我们使用了asyncio, 异步的初始化了

 # Create an event loop
loop = asyncio.new_event_loop()
asyncio.set_event_loop(loop)

# Define an asynchronous function
async def initiate_chat():
    await user_proxy.a_initiate_chat(
        assistant,
        message=user_input,
    )

# Run the asynchronous function within the event loop
loop.run_until_complete(initiate_chat())

asyncio.new_event_loop()创建一个新的事件循环，asyncio.set_event_loop(loop)将新创建的事件循环设置为当前线程的事件循环，loop.run_until_complete(initiate_chat())在完成initiate_chat任务前会阻塞该线程。initiate_chat使用user_proxy开启会话，这和之前的就一样了。

• 运行结果

在命令行中，从上图可以看出，用户代理接收到用户在输入框提出的问题（Generate a fibonacci sequence with 12 numbers and work out the sum）后, 交给assistantAgent。 assistant 生成了代码， 并完成了计算。

页面上，也显示了效果。

总结

通过Streamlist,快速完成了AutoGen AI助理的Web应用搭建， 让AutoGen 的chat work flow 更形象。

如何学习AI大模型？

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

第一阶段： 从大模型系统设计入手，讲解大模型的主要方法；

第二阶段： 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；

第三阶段： 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；

第四阶段： 大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；

第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；

第六阶段： 以SD多模态大模型为主，搭建了文生图小程序案例；

第七阶段： 以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。

👉学会后的收获：👈
• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；

• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；

• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；

• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。

1.AI大模型学习路线图
2.100套AI大模型商业化落地方案
3.100集大模型视频教程
4.200本大模型PDF书籍
5.LLM面试题合集
6.AI产品经理资源合集

👉获取方式：
😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

本文标签： 框架AgentsAIAutoGenweb