博客

TensorFlow是一个开源的机器学习框架，上手简单，且在大量商业场景使用，可靠性高。

机器学习常用的语言主要是python、c，官方也提供了Java版本sdk，示例也很丰富。对于Rust语言，虽然官方文档没有写，其实官方也提供了rust版本的绑定，项目名称就是rust。

在Cargo.toml中配置版本，这里的0.18.0对应TensorFlow 2.8.0

tensorflow = "0.18.0"

这个依赖中的-sys模块会根据实际情况进行处理，如果本地没有Tensorflow的库文件，就会自动下载。如果没有预编译好的库文件，或者用户指定要从源码编译，那就会在本地编译。

我这里使用的是frozen graph，在rust代码中新建一个Graph进行加载即可。

let mut graph = Graph::new();
        let model_file = MODEL_DIR
            .get_file("mobilenet/mobilenet_v2_1.4_224_frozen.pb")
            .unwrap();
        let label_file = MODEL_DIR.get_file("mobilenet/label.txt").unwrap();
        graph
            .import_graph_def(model_file.contents(), &ImportGraphDefOptions::new())
            .unwrap();

为了最后打包方便，这里使用了include_dir包，会把模型和最终产物打包到一起。

这里的模型是一个mobilenet的图片分类模型，输入为224像素。图片的处理使用image包。

let img = image::open(photo.get_store_path())?;
        let resized = image::imageops::thumbnail(&img, 224, 

最近使用了flutter_rust_bridge，流程上非常好，极大程度简化了操作。

使用方法如下

提供Rust API

为了方便管理和测试，对Flutter暴露的接口单独提供，放在api.rs中。里面提供的都是pub fn，出入参数如果内含其他结构体，加上Option，比如

pub fn query_report(query: ReportQuery) -ReportPageDTO {
    APP.lock().unwrap().query_report(query)
}

pub struct ReportPageDTO {
    pub total: i32,
    pub list: Option<Vec<ReportDTO,
}

准备生成工具

先安装工具和依赖

dart pub global activate ffigen
cargo install flutter_rust_bridge_codegen

另外还需要LLVM，具体安装看操作系统有一些区别。

最后运行脚本

flutter_rust_bridge_codegen 

Rust项目直接用Cargo build就可以产出构建物，但是这个构建物不一定真能在部署端运行起来，常见问题有以下几个。

Glibc版本

一般我们的构建都是放linux平台的，Glibc是GUN发布的c库，真正的底层依赖。Rust在编译的时候绝大部分都是静态链接，但是对于C标准库，它使用的还是动态链接。Glibc广泛存在，本来也不是啥大问题，但是如果构建的时候使用了相对新的版本，而运行环境是在其他使用低版本Glibc的系统，那么就会有 version `GLIBC_2.18′ not found 这种问题。

解决方案有很多种，最简单的就是换一个libc的实现，musl是一个相对合理的选择。只要在构建的时候选择x86_64-unknown-linux-musl就行了。

cargo build --target x86_64-unknown-linux-musl

构建环境还需要musl-tools环境。

如果由于一些特殊原因没法用musl，还可以考虑降级Glibc。比如使用低版本的Ubuntu进行构建，也可以使用cross工具。

外部文件

如果追求单文件，那么各种配置文件和其他文件依赖就是一个问题。最直接的方法是使用include_str直接把内容放在构建物中，sqlx::migrate就是用的这种方法。如果是其他文件，也可以自己实现，或者使用第三方的库，比如rust-embed等。

Docker镜像

Docker镜像更多的问题是在大小上，一般来说采用多步构建就行了。构建镜像可以用rust镜像，运行环境用debian:buster-slim。如果有其他依赖，比如openssl、sqlite也可以自行安装。…

本文首发于阿里云开发者社区：https://developer.aliyun.com/article/797279

阿里云函数计算目前支持C#、Java、Python、Go等大部分语言，对于一些定时任务是非常适合的。最近有一些工程使用Rust重写了也想部署到阿里云函数计算上，这里来看可以使用Custom Runtime/Container。

Custom Runtime/Container模式

这个模式本质上是自定义脚本启动一个http服务，然后Serverless平台转发请求到你的http服务，这个请求header中有一些特殊信息，极端的将不考虑启动速度和性能等等，其实是可以无障碍迁移大部分服务的（存储和数据库可能需要改造）。

这个运行环境默认包含了Python3，Java 8等常见依赖，对于Rust这种编译成二进制文件的就更简单了。最终产物是一个zip包，包含启动文件bootstrap和其他依赖即可。

Custom Container模式可以理解成增强模式，如果Custom Runtime不可用，一般是由于特殊的本地依赖导致，Custom Container模式的产出是一个镜像，不过由于镜像的大小比代码包大，所以计费上要多一些，包含拉取镜像的费用。所以这两者需要根据情况来决策，尽可能使用Runtime模式。这样费用和速度上都好一些。

代码改造

这里使用的是funcraft工具专门用于部署，template.yml文件包含描述信息，代码放在code目录。

在Cargo.toml中新增两个依赖

tokio = { version = "1.12.0", features = ["full"] }
warp = "0.3.0"

修改main.rs用warp启动一个http服务

#[tokio::main]
async fn main() {
    pretty_env_logger::init();
    // POST /invoke
    let 

现代通用操作系统对于应用程序的支持很多，在硬件平台上操作系统做了管理，操作系统之上还有标准库对应用程序提供系统调用。然后如果只从跑起来的角度来说，只要有最上面和最下面的就行了。

如下图：

中间两层提供的都是抽象。而有些时候我们的应用程序需要运行在一个相对底层的情况下，我们就需要移除标准库的依赖，更进一步可能要减少对于部分操作系统的依赖。

nothing程序

如果编译一个空的rust程序，比如nothing.rs

fn main(){}

在Ubuntu下查看系统调用如下图

我这里的芯片是riscv的，所以第一步是新增.cargo/config文件

[build]
target = "riscv64gc-unknown-none-elf"

在代码头部取消标准库

这里编译会失败，因为println!也是std提供的，而core中没有。

移除后编译也是失败

panic_handler是致命错误处理函数，默认也是std提供，这里我们加一个空实现

查看产出物的信息，可以看到入口是0，这个产出物本质上是没有用处的。还需要补充上后面需要的内容。

这里需要加上_start函数

#[no_mangle]
extern "C" fn _start() {
    loop{};
}