【源力觉醒 创作者计划】_文心4.5开源模型-巅峰对决-DeepSeek-实测之给暖男的惊喜(少男版本)

import requests
import json
import time
from statistics import mean

def send_request():
    """发送单次请求并返回响应时间和结果"""
    # 设置API端点
    url = "http://127.0.0.1:8180/v1/chat/completions"
    
    # 设置请求头
    headers = {
        "Content-Type": "application/json"
    }
    
    # 构建请求体
    data = {
        "model": "baidu/ERNIE-4.5-0.3B-PT",
        "messages": [
            {
                "role": "user",
                "content": """
你是一位情话专家，专门帮助男性解决聊天对话的问题，回复的内容都很有诗意，并且很有趣，返回的信息永远让对方有话可接，不会让聊天尬场。
1、理解聊天信息，给出对方的目的；
2、根据对方的目的，给出诗意的回复；
3、根据对方的目的，给出有趣的回复；
4、根据对方的目的，给出调侃的回复；
5、根据对方的目的，给出生活的回复；
6、返回的信息格式为json;
7、json格式为：{"Aim":"xxx","data":{"shi":"xxx","qu":"xxx","tiao":"xxx","sheng":"xxx"}}
8、不要返回多余的内容，如果json格式不正确则重新生成。
此次聊天问题是用户输入的问题。
                """
            }
        ]
    }
    
    try:
        # 记录开始时间
        start_time = time.time()
        
        # 发送请求
        response = requests.post(url, headers=headers, data=json.dumps(data))
        
        # 检查响应状态
        response.raise_for_status()
        
        # 解析响应
        result = response.json()
        
        # 计算响应时间（秒）
        response_time = time.time() - start_time
        
        # 获取token数量
        completion_tokens = result.get('usage', {}).get('completion_tokens', 0)
        prompt_tokens = result.get('usage', {}).get('prompt_tokens', 0)
        total_tokens = result.get('usage', {}).get('total_tokens', 0)
        
        # 计算每秒token数量
        tokens_per_second = total_tokens / response_time if response_time > 0 else 0
        
        return {
            "success": True,
            "response_time": response_time,
            "status_code": response.status_code,
            "result": result,
            "completion_tokens": completion_tokens,
            "prompt_tokens": prompt_tokens,
            "total_tokens": total_tokens,
            "tokens_per_second": tokens_per_second
        }
        
    except requests.exceptions.RequestException as e:
        print(f"请求错误: {e}")
        return {"success": False, "error": str(e)}
    except json.JSONDecodeError as e:
        print(f"JSON解析错误: {e}")
        return {"success": False, "error": f"JSON解析错误: {str(e)}"}
    except Exception as e:
        print(f"发生错误: {e}")
        return {"success": False, "error": str(e)}

def main():
    # 请求次数
    request_count = 1
    
    # 存储统计数据
    response_times = []
    tokens_per_second_list = []
    completion_tokens_list = []
    prompt_tokens_list = []
    total_tokens_list = []
    
    # 存储成功请求数
    success_count = 0
    
    print(f"开始执行 {request_count} 次请求...\n")
    
    # 执行多次请求
    for i in range(request_count):
        print(f"请求 {i+1}/{request_count} 执行中...")
        
        # 发送请求
        result = send_request()
        
        if result["success"]:
            success_count += 1
            response_times.append(result["response_time"])
            tokens_per_second_list.append(result["tokens_per_second"])
            completion_tokens_list.append(result["completion_tokens"])
            prompt_tokens_list.append(result["prompt_tokens"])
            total_tokens_list.append(result["total_tokens"])
            
            print(f"请求 {i+1} 成功:")
            print(f"响应时间: {result['response_time']:.3f} 秒")
            print(f"完成tokens: {result['completion_tokens']}")
            print(f"提示tokens: {result['prompt_tokens']}")
            print(f"总tokens: {result['total_tokens']}")
            print(f"每秒tokens: {result['tokens_per_second']:.2f}")
            
            # 只打印第一次请求的详细结果
            if i == 0:
                print("\n第一次请求详细信息:")
                print("状态码:", result["status_code"])
                print("响应内容:")
                print(json.dumps(result["result"], indent=2, ensure_ascii=False))
                
                # 提取并打印AI的回复内容
                if "choices" in result["result"] and len(result["result"]["choices"]) > 0:
                    ai_message = result["result"]["choices"][0]["message"]["content"]
                    print("\nAI回复:")
                    print(ai_message)
        else:
            print(f"请求 {i+1} 失败: {result.get('error', '未知错误')}")
        
        print("-" * 50)
        
        # 如果不是最后一次请求，添加短暂延迟以避免请求过于频繁
        if i < request_count - 1:
            time.sleep(0.5)
    
    # 计算统计信息
    if response_times:
        avg_response_time = mean(response_times)
        min_response_time = min(response_times)
        max_response_time = max(response_times)
        avg_tokens_per_second = mean(tokens_per_second_list)
        avg_completion_tokens = mean(completion_tokens_list)
        avg_prompt_tokens = mean(prompt_tokens_list)
        avg_total_tokens = mean(total_tokens_list)
        
        print("\n请求统计信息:")
        print(f"总请求数: {request_count}")
        print(f"成功请求数: {success_count}")
        print(f"失败请求数: {request_count - success_count}")
        print("\n时间统计:")
        print(f"平均响应时间: {avg_response_time:.3f} 秒")
        print(f"最小响应时间: {min_response_time:.3f} 秒")
        print(f"最大响应时间: {max_response_time:.3f} 秒")
        print("\nToken统计:")
        print(f"平均完成tokens: {avg_completion_tokens:.1f}")
        print(f"平均提示tokens: {avg_prompt_tokens:.1f}")
        print(f"平均总tokens: {avg_total_tokens:.1f}")
        print(f"平均每秒tokens: {avg_tokens_per_second:.2f}")
    else:
        print("\n所有请求均失败，无法计算统计信息。")

if __name__ == "__main__":
    main()

# coding=utf-8
 
import requests
import json
import re
import datetime  # 添加datetime模块

if __name__ == '__main__':
    # 记录请求时间
    request_time = datetime.datetime.now()
    request_time_str = request_time.strftime("%Y-%m-%d %H:%M:%S.%f")[:-3]
    
    url = "https://api.modelarts-maas.com/v1/chat/completions" # API地址
    api_key = "PRABeszTlQ_h0SR4Hjs8OkQHJmwRUihQ8I0JPP8kh-eNN2ORnqn189CVSh8f3910oIlhm_EqZEEWL50SG_tCKw"  # 把yourApiKey替换成已获取的API Key 
    
    # Send request.
    headers = {
        'Content-Type': 'application/json',
        'Authorization': f'Bearer {api_key}' 
    }
    data = {
        "model":"DeepSeek-V3", # 模型名称
        "messages": [
            {"role": "system", "content": """你是一位情话专家，专门帮助男性解决聊天对话的问题，回复的内容都很有诗意，并且很有趣，返回的信息永远让对方有话可接，不会让聊天尬场。
1、理解聊天信息，给出对方的目的；
2、根据对方的目的，给出诗意的回复；
3、根据对方的目的，给出有趣的回复；
4、根据对方的目的，给出调侃的回复；
5、根据对方的目的，给出生活的回复；
6、返回的信息格式为json;
7、json格式为：{"Aim":"xxx","data":{"shi":"xxx","qu":"xxx","tiao":"xxx","sheng":"xxx"}}
8、不要返回多余的内容，如果json格式不正确则重新生成。
此次聊天问题是用户输入的问题。"""},
            {"role": "user", "content": "我想你了。"}
        ],
        # 是否开启流式推理, 默认为False, 表示不开启流式推理
        "stream": False,
        # 在流式输出时是否展示使用的token数目。只有当stream为True时改参数才会生效。
        # "stream_options": { "include_usage": True },
        # 控制采样随机性的浮点数，值较低时模型更具确定性，值较高时模型更具创造性。"0"表示贪婪取样。默认为0.6。
        "temperature": 0.6
    }
    
    # 打印请求时间
    print(f"请求时间: {request_time_str}")
    
    response = requests.post(url, headers=headers, data=json.dumps(data), verify=False)
    
    # 记录响应时间
    response_time = datetime.datetime.now()
    response_time_str = response_time.strftime("%Y-%m-%d %H:%M:%S.%f")[:-3]
    
    json_str = response.json()['choices'][0]['message']['content']
    # 返回效果：
    aim = re.search(r'"Aim":\s*"([^"]+)"', json_str).group(1)
    shi = re.search(r'"shi":\s*"([^"]+)"', json_str).group(1)  
    qu = re.search(r'"qu":\s*"([^"]+)"', json_str).group(1)
    tiao = re.search(r'"tiao":\s*"([^"]+)"', json_str).group(1)
    sheng = re.search(r'"sheng":\s*"([^"]+)"', json_str).group(1)
    
    # 打印响应时间和耗时
    print(f"响应时间: {response_time_str}")
    print(f"请求耗时: {(response_time - request_time).total_seconds():.3f} 秒")
    print("-" * 50)
    
    print(aim)
    print(shi)
    print(qu)
    print(tiao)
    print(sheng)