问使用存储在Bucket中的数据进行在线预测

EN

在内部，我们直接解析来自请求中的有效负载的输入以进行服务，而不是将请求存储在磁盘上。目前，在线预测不支持读取来自云的输入。你可以考虑使用batch prediction，它从存储在云上的文件中读取数据。

对于只接受一个字符串输入(可能与您的情况类似)的模型，online和batch之间的输入略有不同。在这种情况下，您必须对图像字节进行base64编码，并将其放入JSON文件中进行在线预测，而对于批量预测，您需要将图像字节打包为TFRecords格式的记录，并将其另存为tfrecord文件。除此之外，输入是兼容的。