云函数 使用 SCF 实现日志分析写数据库 - 最佳实践
VIEW CONTENTS
摘要: 操作场景在本文档示例中,我们用到了云函数SCF、对象存储COS、云数据库MySQL。其中,COS用来存储需要分析的日志文件,SCF实现从COS下载日志文件并进行统计分析,把分析的结果写入到MySQL数 ...
点击领取2000元阿里云代金券,付款抵现金用,云服务器69元/年限时抢>>>    点击咨询成为阿里云VIP客户享永久折扣>>>
点击领取2860元腾讯云代金券,付款抵现金用云服务器88元/年限时抢>>>    点击成为腾讯云VIP客户享永久折扣优惠>>>
点击进入华为云最新优惠活动现场>>>    点击成为华为云VIP客户享永久折扣优惠>>>

操作场景

在本文档示例中,我们用到了云函数 SCF、对象存储 COS、云数据库 MySQL。其中,COS 用来存储需要分析的日志文件,SCF 实现从 COS 下载日志文件并进行统计分析,把分析的结果写入到 MySQL 数据库中。

操作步骤

创建 COS Bucket

  1. 登录 对象存储控制台,选择左侧导航栏中的【存储桶列表】。
  2. 参考 创建存储桶 创建一个存储桶,主要参数信息设置如下:
    • 名称:命名为 loganalysis。
    • 所属地域:选择北京地域。
    • 访问权限:选择“私有读写”。

创建 MySQL 云数据库

  1. 参考 购买方式 创建一个 MySQL 云数据库。由于数据库需要付费购买,您可以选择在北京地域购买 云数据库 MySQL 入门机型。
  2. 购买完成后,给数据库添加可访问的用户名和密码,并创建新库 mason_demo

创建云函数 SCF

  1. 登录云函数控制台,选择左侧导航栏中的【函数服务】。
  2. 在“函数服务”页面上方选择北京地域,并单击【新建】进入新建函数页面。
    设置以下参数信息,并单击【下一步】。如下图所示:
    • 创建方式:选择【模板创建】。
    • 模糊搜索:输入“日志分析写数据库”,并进行搜索。
      单击模板中的【查看详情】,即可在弹出的“模板详情”窗口中查看相关信息,支持下载操作。
  3. 函数名称默认填充,可根据需要自行修改。按照引导配置环境变量、运行角色和私有网络:
    • 环境变量:在使用本模板函数时,您需要按照提示在函数配置中添加环境变量,填写方式可参考下图:
      key value
      dbhost 请参考 访问 MySQL 数据库 获取。
      dbport
      dbuser 已创建的 MySQL 数据库的用户名。
      dbpwd 已设置的 MySQL 帐号密码。
      dbname 需备份的数据库名称,本文以 mason_demo 为例。
      cosregion Bucket 所在地域。
    • 运行角色:勾选“启用”,选择“配置并使用SCF模版运行角色”,将会自动创建并选择关联了 COS、CDB 全读写权限的 SCF 模版运行角色。或选择“使用已有角色”,在下拉列表中选择包含上述权限的已有角色。本文以“配置并使用SCF模版运行角色”为例。如下图所示:
      注意:

      您也可以直接在函数代码中替换为账户实际使用的 SecretId 及 SecretKey,可前往 API密钥管理 页面获取。

    • 私有网络:如果数据库使用的是内网地址,则函数需要启用【私有网络】,并选择和数据库相同的 VPC 和子网。如下图所示:

配置 COS 触发器

在“触发器配置”中,选择“自定义创建”,并填写相关参数信息。如下图所示:

主要参数信息如下,其余配置项请保持默认:

  • 触发方式:选择 “COS触发”。
  • COS Bucket:选择 创建 COS Bucket 步骤中已创建的存储桶 loganalysis。
  • 事件类型:选择“全部创建。”

单击【完成】,即可完成函数和触发器创建。

测试函数功能

  1. 下载 测试样例 中的日志文件,并解压出 demo-scf1.txt。
  2. 切换至 对象存储控制台,选择创建好的存储桶 loganalysis,单击【上传文件】。
  3. 在弹出的“上传文件”窗口中,选择下载好的 demo-scf1.txt,单击【确定上传】。
  4. 切换至 云函数控制台,查看执行结果。
    在函数详情页面中选择【日志查询】页签,可以看到打印出的日志信息。如下图所示:
  5. 切换至 MySQL 管理界面,查看数据库中的分析结果。
    说明:

    您可以根据自身的日志格式编写具体的处理方法,数据库的写方法也可以修改为增量写。


路过

雷人

握手

鲜花

鸡蛋

相关阅读

2021-10-14 12:03| 发布者: xtyly| 查看: 167| 评论: 0



在线客服(工作时间:9:00-22:00)
400-600-6565

内容导航

微信客服

Copyright   ©2015-2019  云服务器社区  Powered by©Discuz!  技术支持:尊托网络     ( 湘ICP备15009499号-1 )