https://s3-us-west-2.amazonaws.com/secure.notion-static.com/9124018a-6c1e-4f82-b31f-0296baa80106/Kris.png

Прежде чем начать: С 1 ноября 2020 в Скринере больше не работает автоматический импорт с сайта stockanalysis.com. Как импортировать данные вручную написано [ здесь ]. Но тем не менее, написанное всё еще актуально, в том числе и для других проектов (пока там ещё есть автоматический загрузка из различных источников).

Важный пост для всех, кто пользуется моими проектами.

В начале октября в Скринере перестал работать импорт данных. На сегодняшний день он опять заработал, но всё ещё может пропасть снова и навсегда. На самом деле это касается всех моих проектов. Для того, чтобы решить этот вопрос мне пришлось связаться с владельцем сайта stockanalysis.com.

Kris (так его зовут) сообщил о резком всплеске активности по импорту данных роботами (парсингу) с его сайта - до 15 тысяч запросов в день из Google таблиц. [Скриншот] Как это возможно, учитывая что Google ограничивает количество импортов от одного пользователя в размере 50 запросов в день - у меня только один вариант: многие просто не выключают загрузку данных, и оно всё в фоне каждый день шлёт и шлёт запросы на сервер. Хотя идея была именно в том, чтобы загружать данные только по необходимости.

В итоге он включил защиту от парсинга его сайта, из-за чего данные перестали загружаться в Скринер. Тогда я ему и написал, и выяснил всё, что описано выше. Изначально после переписки его решение было - оставить защиту включённой. И я его прекрасно понимаю: ему вообще ни в одно месте не упёрлись наши проблемы и нехилая нагрузка на сервер тоже не в его интересах.

Но в итоге он поступил как очень достойный человек: сегодня он просто отключил защиту от парсинга, и импорт в Скринере снова заработал. На мой вопрос о причинах такого решения, он ответил: "просто так, но в случае возрастания нагрузки включу защиту снова".

Я в свою очередь пообещал, что постараюсь донести до всех пользователей следующее сообщение:

Отключайте загрузку внешних данных перед закрытием файла! Если оставить загрузку включённой, в фоновом режиме ежедневно посылаются запросы на сервера, что в совокупности от всех пользователей создаёт тысячи запросов в день по одним и тем же адресам! Из-за возрастания нагрузки на чужие сервера мы можем остаться без источников данных.

https://s3-us-west-2.amazonaws.com/secure.notion-static.com/40a29bad-14e7-4fab-a30b-8612b8912abb/Untitled.png

Чтобы отключить автозагрзуку в Скринере, достаточно снять чекбокс в ячейке D1. В Инвест Учёте если нет необходимости - выключайте загрузку будущих дивидендов, ненужных котировок на листе Параметры, цены на листе Конструктор